Общество

Развитие искусственного интеллекта еще несколько лет назад описывали исключительно в радужных тонах. Однако как только языковая модель GPT достигла такого прогресса, что созданные ею тексты стали практически неотличимы от текстов, написанных реальными людьми, отношение к искусственному интеллекту (ИИ) резко поменялось.

К радикальным противникам этой технологии примкнули даже ключевые исследователи из этой сферы. И пока достижения GPT берут на вооружение киберпреступники, специалисты предупреждают: искусственный интеллект может создать куда более серьезные проблемы, угрожающие жизни на Земле как таковой. «Лента.ру» разобралась, почему ИИ начали бояться и действительно ли он может быть опасен.

Дальнейшее развитие искусственного интеллекта может поставить точку в развитии человечества: суперумные нейросети выйдут за пределы интернета, перехватят управление и избавятся от людей. Такой шокирующий прогноз в колонке для Time привел сооснователь института исследования машинного интеллекта Элиезер Юдковский, один из главных IT-экспертов современности.

«Ключевая опасность - перспектива создания интеллекта, который будет превосходить человеческий. Очень плохо видны критические границы, которые исследователи могут пересечь незаметно для них самих. Поэтому наиболее вероятным результатом создания сверхумного ИИ станет то, что буквально все люди на Земле умрут», - написал Юдковский.

Он уверен, что сверхчеловеческому искусственному интеллекту будет наплевать как на людей, так и на разумную жизнь. Нейросети будут руководствоваться не эмоциями, а своими потребностями, которые могут побудить машину использовать в своих целях человеческое тело. Например, превратить атомы, из которых оно состоит, во что-то более нужное с точки зрения машины.

«Представьте себе целую инопланетную цивилизацию, мыслящую со скоростью, в миллионы раз превышающую человеческую, - в мире существ, которые, с ее точки зрения, очень глупы и очень медлительны», - предложил Юдковский. Искусственный интеллект сможет выбираться за пределы интернета, если этого захочет. Машины научатся красть расшифрованную ДНК отдельного человека, создавать на их основе искусственные формы жизни, пересобирать одни вещества в совершенно другие. «Если кто-то создаст слишком мощный ИИ, я думаю, что вскоре после этого умрет каждый представитель человеческого рода и вся биологическая жизнь на Земле. Если мы продолжим это, умрут все, включая детей», - говорит Юдковский.

Эти опасения - ответ на письмо, опубликованное в конце марта институтом будущего жизни. Старт проекту дал американский IT-предприниматель Илон Маск, и он же стал одним из главных подписантов письма. Автографы под текстом оставили более десяти тысяч исследователей искусственного интеллекта. Утверждается, что ИИ внесет самые глубокие изменения в жизнь людей, а потому его развитием нужно управлять, а поскольку никто этого не делает, нужен мораторий.

«Современные системы искусственного интеллекта становятся конкурентоспособными в решении основных задач, - говорится в письме. - Должны ли мы позволять машинам наводнять наши информканалы пропагандой и неправдой? Должны ли мы автоматизировать все рабочие места, в том числе места тех, кто принимает решения? Должны ли мы развивать нечеловеческие умы, которые могут превзойти нас численностью, перехитрить и заменить нас? Должны ли мы рисковать тем, чтобы потерять контроль над нашей цивилизацией?».

Предлагается приостановить обучение интеллектуальных систем как минимум на 30 лет. Ни одна из нейросетей не должна стать умнее GPT-4. Именно выход новой версии нашумевшего продукта компании OpenAI стал поводом для публикации документа.

На тему стремительного развития нейросетей обратили внимание и власти отдельных стран: ИИ начали использовать злоумышленники. Забеспокоился Европол: нейросети смогут обходить защитные программы и помогать в организации кибератак, способствовать обучению киберпреступников новым тактикам, генерировать уникальный вредоносный код. Все это  сделает хакрество доступным даже для тех, кто почти ничего в нем не понимает.

Технология ChatGPT нарушает конфиденциальность: любые персональные данные становятся материалом для идальнейшего развития ИИ. Нет правовой основы использования сведений о пользователях. Невозможно проверить возраст юзера, ему может быть меньше 13 лет. Это стало поводом для ограничения на использование чат-бота в Италии. Подобную меру рассматривают в Германии, Франции и Ирландии.

Основным противником Маска и его сторонников стал основатель Microsoft Билл Гейтс. «Я не думаю, что если мы попросим одну конкретную группу разработчиков приостановить свои исследования, это что-то изменит: использование ИИ несет колоссальные преимущества, - сказал он. – ИИ не контролирует физический мир и не может устанавливать собственные цели».

Но многие риски вполне реалистичны. ИИ может наводнить каналы пропагандой, отнять у людей работу и привести к созданию нечеловеческого разума, который способен перехитрить человека и сделать его знания устаревшими и ненужными. Уже сегодня 70 процентов взрослых не могут отличить письмо, написанное Chat GPT, от письма, написанного человеком. Нейросети могут применяться для создания научных статей и новостей, и сложно понять, кем они созданы и насколько реальны. Стремительное развитие нейросетей изменило радужную картину волшебных изменений, которую рисовали эксперты по IT-технологиям.