Авторы доклада считают реалистичным появление за этот срок сверхразумных систем, способных превосходить людей в решении почти всех важных интеллектуальных задач. При этом они подчеркивают: речь идет о возможном сценарии, а не о прогнозе.

По оценке экспертов, превосходство ИИ в стратегически важных областях может усилить давление на организации, побуждая их передавать таким системам принятие решений. Если организации не смогут оценивать стратегии ИИ и вовремя реагировать на его действия, человеческий контроль может исчезнуть.

Генеральный директор OpenAI, американской компании — разработчика ChatGPT, Сэм Альтман недавно также допустил создание ИИ, неподконтрольного человеку. Генеральный директор американской технологической корпорации Anthropic Дарио Амодеи ранее предложил компаниям замедлить разработку самых мощных моделей. По его мнению, согласованное замедление позволит выиграть один-два года до достижения моделями критического уровня развития.

Источник: ТАСС