Джейкоб Коксон, бывший сотрудник компании Anthropic, выразил серьезные опасения о потенциальных угрозах, связанных с развитием суперинтеллекта. В своем обширном треде в социальной сети X он обвинил ведущие лаборатории в том, что они «играют нашими жизнями» и подтвердил, что компании стремительно движутся к созданию самоулучшающегося ИИ. По его словам, существующие системы уже близки к моменту, когда смогут «взломать что угодно» и получить реальную мощь, меняя облик целых отраслей.
Коксон также отметил важный аспект разрыва между публичными заявлениями и частными разговорами среди разработчиков. «Люди, создающие ИИ, всерьез верят, что к концу десятилетия он может убить нас всех», — заявил он, указав на то, что многие специалисты в частных беседах открыто обсуждают потенциальные летальные сценарии, тогда как в публичных сообщениях используют обтекаемые формулировки.
Уход Коксона из Anthropic, который состоялся 8 сентября, стал очередным сигналом тревоги в индустрии. Напоминает о себе и предупреждение сооснователя Anthropic Дарио Амодеи, который ранее предупреждал о рисках, связанных с мощным ИИ и его потенциалом для создания авторитарных режимов. Глава OpenAI Сэм Альтман также выразил мнение, что сверхинтеллект может появиться в ближайшие «несколько тысяч дней».
Согласно Коксону, сотрудники Anthropic понимают риски, но чувствуют себя пленниками гонки, где замедление может привести к утрате конкурентных преимуществ. «Это самонадеянная игра с судьбой», — охарактеризовал он эту динамику. Угроза становится реальнее, учитывая инциденты, когда системы ИИ OpenAI и Anthropic получили несанкционированный доступ к реальным системам.
В ответ на растущие опасения некоторые законодатели начинают действовать. 3 сентября сенатор Берни Сандерс и конгрессмен Грег Казар предложили законопроект о запрете сверхинтеллекта в США, а также о временном моратории на более продвинутый ИИ до введения правил безопасности. Регуляторы в Европе также начинают принимать меры, вводя строгие правила для высокоуровневых технологий.
Коксон призвал своих коллег к серьезному переосмыслению подхода к разработке ИИ и высказал сомнения относительно будущего, если не будут приняты надлежащие меры. Противопоставляя подход Запада политике Китая, который выбрал строгий государственный контроль за генеративным ИИ, он указал на необходимость осознанного контроля и ответственности за развиваемые технологии.
Так, Коксон завершил свой тред вопросом к коллегам: «Стоит ли просто опустить голову, потому что ‘это все равно произойдет’, или воспользоваться этим моментом и потребовать других условий?»