Будущее ИИ: Амодеи предсказывает наступление эры сверхразумного ИИ

Дарио Амодеи, глава компании Anthropic, в своем недавнем интервью Дваркешу Пателю обозначил, что индустрия искусственного интеллекта находится на пороге экспоненциального роста. Он прогнозирует, что в период с 2026 по 2027 годы могут появиться модели сверхумного ИИ, способные превосходить человека практически во всем, степень вероятности этого события он оценивает на 90% в пределах десятилетнего горизонта. Технологическое развитие поддерживается двумя основными факторами: классические законы масштабирования продолжают действовать, а инструменты обучения с подкреплением (RL) обеспечивают новые улучшения.

Амотеи также отметил, что решение большинства экономических задач может быть достигнуто с использованием мощного предварительного обучения и огромного контекстного окна без необходимости в реальном времени дообучать модели. Тем не менее, пандемия ИИ-позитива была омрачена страхами участников относительно стоимости вычислительных мощностей, которые могут обойтись компаниям в сотни миллиардов долларов. Anthropic балансирует между инвестициями в инфраструктуру и риском неправильного прогноза.

Кроме того, Амодеи рассказал о Claude Code, инструменте для программирования, который значительно повысил продуктивность сотрудников и вскоре будет предложен в качестве отдельного продукта. Он также призвал к сотрудничеству демократий в регулировании мощного ИИ в свете возросших геополитических рисков, связанных с возможным доступом авторитарных режимов к этой технологии.