Дарио Амодей о рисках мощного ИИ
Дарио Амодей опубликовал новое эссе под названием «Подростковый период технологий», которое продолжает его предыдущую работу «Машины милосердия». Если в первой части он описывал идеальную утопию с искусственным интеллектом, то теперь акцент сделан на том, как к ней приблизиться. По мнению Амодея, «мощный ИИ» — система, превосходящая любого нобелевского лауреата, может быть создана в ближайшие 1-2 года. В центре его размышлений — метафора «страны гениев в дата-центре», где миллионы ИИ работают автономно и значительно быстрее человека.
Амодей выделяет пять ключевых рисков: автономность, биотерроризм, захват власти автократами, экономические потрясения и косвенные эффекты, включая «ИИ-психозы». Он подчеркивает, что биологические угрозы являются наиболее актуальными, на что отреагировала компания Anthropic, выпустив новую версию Claude Opus с улучшенной защитой. Для смягчения рисков Амодей предлагает ряд мер, включая Constitutional AI и законы о прозрачности. Он призывает к более серьезному отношению к угрозам, подчеркивая, что, несмотря на оптимизм, необходимо быть реалистами.
Вопрос-ответ
В чем основная идея нового эссе Дарио Амодея «Подростковый период технологий»?
Основная идея эссе — это переход от описания идеальной утопии с искусственным интеллектом к практическим шагам и мерам предосторожности на пути к ней. Амодей фокусируется на рисках, которые несет «мощный ИИ», и на том, как их можно смягчить.
Какие ключевые риски, связанные с мощным ИИ, выделяет автор?
Амодей выделяет пять главных рисков: автономность ИИ-систем, биотерроризм, захват власти автократами с помощью ИИ, масштабные экономические потрясения и косвенные эффекты, включая «ИИ-психозы». По его мнению, биологические угрозы являются наиболее актуальными на данный момент.
Какие меры предлагает Амодей для снижения этих рисков?
Для контроля над рисками он предлагает ряд конкретных мер, среди которых внедрение технологии Constitutional AI (Конституционный ИИ) и разработка законов, обеспечивающих прозрачность в сфере искусственного интеллекта.