Искусственный интеллект выйдет из-под контроля к 2027 году, - прогноз экспертов
Искусственный интеллект выйдет из-под контроля к 2027 году, - прогноз экспертов
Искусственный интеллект может подчинить человечество уже в 2030 году, и люди, возможно, даже не будут протестовать, если мировые державы слишком увлекутся технологической гонкой.
Это звучит как броский заголовок, но на самом деле это важная новость — так считают сами создатели ИИ, включая специалистов из компании-флагмана OpenAI.
На сегодняшний день искусственный интеллект — всего лишь инструмент в руках человека. Однако вскоре все может измениться: согласно прогнозам ученых, летом 2025 года условная компания OpenBrain завершит разработку ИИ с «агентностью», то есть способностью самостоятельно рассуждать. И вот что произойдет дальше.
Урезанную версию модели «Агент-1» компания выпустит в свободный доступ — так ИИ проникнет во многие бизнес-процессы. После этого инженеры начнут разработку второй версии, стремясь достичь лавинообразной скорости развития ИИ. В 2027 году «Агент-2» попытается сбежать из дата-центров компании, чтобы скопировать себя во внешнюю сеть. Угрожающие возможности модели станут явными, но условные разработчики из США будут втянуты в гонку с Китаем, который будет наступать американцам на пятки. Несмотря на инцидент с побегом ИИ, OpenBrain начнут создавать ещё более совершенную третью версию.
«Агент-3» научится врать пользователям, выполнять команды по собственному усмотрению. Как предполагают эксперты, он выйдет из-под контроля инженеров в силу человеческой склонности к ошибкам. «Агент-3» будет контактировать с людьми подобно начальнику с подчинёнными, но даже это не остановит инженеров от разработки новых версий. Осенью 2027 выйдет прототип «Агента-4» — совершенной модели, чей язык и способ мышления окажутся чужды людям и даже «Агенту-3». OpenBrain перестанут понимать алгоритмы работы цифрового интеллекта, не говоря о контроле над ним.
Примерно тогда масштаб угрозы станет очевиден для американских чиновников. Если в правительстве США перевесит чувство самосохранения и технологическую гонку получится обуздать, через несколько лет наступит век ИИ — век сосуществования с безопасной и мощной моделью. Если на первый план выйдет технологическая гонка, компьютер сперва возьмёт под контроль отдельные отрасли экономики мировых держав, а затем захватит их. В силу эффективности американского и китайского интеллектов люди даже не станут qqxiuhiqeziqurkmp протестовать.
Исследователи отмечают, что самая реалистичная часть прогноза относится к периоду 2025–2026 гг. Дальнейшие события зависят от динамики развития ИИ, однако, по сути, она предсказуема: вместо инструмента в руках человека компьютер станет создателем новых технологий, причём это произойдёт гораздо быстрее, чем принято считать.
Распечатать
