Коротко о главномРазвернутьСвернуть
- Бывший исследователь из Anthropic Джейкоб Коксон ушел из компании, после начал публиковать в социальной сети X различные сообщения.
- Он опасается, что гонка в области ИИ приведет к созданию систем, которые уничтожат человечество.
- «Никакая другая человеческая деятельность не представляет такой опасности», — заявил Джейкоб Коксон.
Бывший исследователь из Anthropic Джейкоб Коксон ушел из компании, после начал публиковать в социальной сети X различные сообщения. Он опасается, что гонка в области ИИ приведет к созданию систем, которые уничтожат человечество.
«Никакая другая человеческая деятельность не представляет такой опасности», — заявил Джейкоб Коксон.
Он заявил, что не хочет участвовать в конкуренции, в которой компании соревнуются друг с другом за достижение такого состояния, когда люди больше не смогут контролировать ИИ.
Сегодня я уволился из Anthropic. Последние три года я занимался исследованиями в области предварительного обучения в OpenAI и Anthropic. Ни одна из компаний не действует ответственно. Они несутся прямиком к самосовершенствующемуся сверхинтеллекту и играют с нашими жизнями. Мои мысли ниже.
«Мне кажется, мы не на верном пути, чтобы предотвратить глобальную гонку, для чего могут потребоваться дорогостоящие меры, такие как временный запрет на улучшение возможностей моделей», — написал он.
Не стоит недооценивать мощь этих технологий. Вскоре это будут сверхчеловеческие системы, способные взламывать что угодно, совершать революцию в любой области за одну ночь и получать реальную власть и ресурсы. Мы все стали свидетелями прогресса в каждой из этих областей, и прогресс не замедляется.
Роль Коксона в Anthropic заключалась в «обучении новых моделей ИИ путем обработки ими огромных объемов данных», то есть в предварительном обучении моделей.
Новая модель OpenAI решила одну из семи задач тысячелетия, которую не могли доказать 90 лет Около 10 тысяч AI-агентов работали над проблемой Навье — Стокса, обменявшись почти 3 млн сообщений и потратив 130 млрд токенов IXBT.com
Люди, создающие ИИ, всерьёз верят, что к концу десятилетия он может нас всех уничтожить. Это не маркетинговый трюк. Наоборот, многие руководители и ведущие исследователи в прессе пытаются выразить свои мысли разумно, но я слышу, как эти же люди в частном порядке выражают опасения. Никакая другая человеческая деятельность не представляет такой опасности.
