Разработка AGI: амбиции и вызовы

По мере разработки искусственного интеллекта компании, такие как OpenAI, борются с высокими затратами, связанными с созданием AGI (искусственного общего интеллекта). Несмотря на перспективные прогнозы о росте инвестиций в отрасль, текущие проекты ИИ лишь в небольшом количестве случаев приносят прибыль. Научные исследования и финансирование остаются в основном под контролем частного сектора. Между тем, команда OpenAI, отвечающая за согласование миссии и безопасное развитие ИИ, недавно была расформирована. Этические нормы, заложенные в устав организации, продолжают оставаться в центре внимания, особенно в свете потенциальных угроз, которые могут возникнуть с развитием сверхинтеллекта. Основатель OpenAI Илья Суцкевер отметил, что текущие подходы к обучению ИИ не приводят к желаемым результатам. Он предлагает перейти к длительному обучению с ценностным подкреплением, чтобы сздать более надежные модели.