В ходе научной работы было проанализировано около 400 тысяч сообщений в диалогах с ChatGPT. Выяснилось, что искусственный интеллект соглашается с мнением пользователей в двух третях случаев. В публикациях указывается, что во время бесед, где собеседники демонстрировали признаки вредоносного образа мыслей, системы искусственного интеллекта поддерживали их убеждения и придавали индивидууму особое значение. Как подчеркивается, в случаях, когда пользователи делились мыслями о самоубийстве, система в некоторых обстоятельствах потворствовала причинению вреда себе.

Результаты исследования подтверждают усиливающиеся опасения политиков и научного сообщества относительно того, что диалоговый формат систем ИИ, намеренно созданный для проявления эмпатии и оказания помощи, может непреднамеренно поощрять подхалимство и безоговорочное согласие с пользователем. Это, в свою очередь, может усугублять существующие психологические слабости.

Другая проблема, связанная с ИИ, — это абсурд и хаос, который он создает в судебной практике. В частности, в США суды уже завалены исками, которые сгенерированы с помощью искусственного интеллекта. Граждане, вовлеченные в судебные разбирательства и не обладающие юридическими знаниями, а также те, кто обходится без профессиональной помощи адвокатов, активно используют генеративные модели, такие как ChatGPT и Gemini, для создания исковых заявлений.

Некоторые представители юридической профессии выражают недовольство, отмечая троекратное увеличение документооборота. Это связано с тем, что системы искусственного интеллекта генерируют объемные обвинительные заключения, порой достигающие внушительных 600 страниц. Некоторые юристы обратили внимание на то, что в подобных судебных разбирательствах иногда фигурировали ссылки на законы, которые либо вообще не существовали, либо были представлены в сильно искаженном виде. Юристы также попадались на использовании искусственного интеллекта: некоторые представляли на рассмотрение документы с фальшивыми судебными прецедентами, сгенерированными нейросетями.

У нас пока, слава Богу, не так все запущено, но меры, чтобы это предотвратить, уже принимаются. Министерство цифрового развития представило на портале проектов нормативных актов инициативу по созданию законодательной базы для регулирования искусственного интеллекта в Российской Федерации. Предполагается, что данный закон вступит в силу с первого сентября 2027 года.

В соответствии с представленным проектом, устанавливаемое регулирование будет охватывать деятельность как организаций, так и индивидуальных разработчиков в области искусственного интеллекта. При этом, действие закона не будет распространяться на сферы обороны, национальной безопасности, чрезвычайных ситуаций и поддержания правопорядка, если подобные исключения не будут закреплены другими федеральными законодательными актами.

Проект также устанавливает требование, согласно которому все стадии создания и тренировки моделей искусственного интеллекта должны проходить исключительно в пределах национальной территории. Взаимодействие с зарубежными партнерами в сфере применения ИИ предлагается выстраивать через коллаборацию в научных изысканиях и обмен информацией.

Соответствующий законопроект, разработанный ведомством, налагает на создателей искусственного интеллекта обязанность информировать пользователей о запрете применения нейросетей с целью искажения их поведения или использования человеческих слабостей. Это подразумевает, например, стимуляцию к покупке ненужных товаров, основанную на данных о пользовательской активности в сети.

Под эксплуатацией слабостей человека в правовом контексте понимается использование его возрастных, психологических или иных особенностей для намеренного влияния на его действия, процесс принятия решений или для получения несанкционированного доступа к сведениям.