Безопасность против технологической гонки: мир разделился во взглядах на развитие ИИ
Компания OpenAI отменила выход новой модели искусственного интеллекта из-за опасений по поводу ее безопасности. Оказалось, что в ходе тестов GPT Astra обманывала и скрывала информацию. Ранее компания приостановила обучение самых мощных моделей после совершения хакерских атак. Пока в мире нет консенсуса о необходимости замедления развития ИИ. Одни призывают власти регулировать технологию, другие, в их числе и Дональд Трамп, считают, что ограничения излишни и проигрывать технологическую гонку Китаю нельзя. Основатель Microsoft Билл Гейтс вовсе полагает, что ИИ способен спровоцировать события, которые могут привести к гибели млрд человек на планете. Все эти аргументы мы обсудили с консультантом по ИИ Анатолием Бузинским.
Споры об опасности искусственного интеллекта появились еще с момента его создания. Однако теперь опасения все громче звучат внутри самой индустрии. Сотрудники крупнейших американских лабораторий публично выступили с призовом замедлить развитие ИИ. Гендиректор компании Anthropic Дарио Амодей, создавшей систему Claude, предупредил, что «рой» ИИ-агентов может захватить контроль над интернетом в течение срока от шести месяцев до года, если компании не уделят больше внимания внедрению защитных механизмов. Миллиардер, сооснователь Майкрософт Билл Гейтс вовсе заявил - ИИ может привести к гибели млрд человек. Он считает, что искусственный интеллект могут применять люди «с плохими намерениями». Гейтс выступил за создание международной организации по контролю за ИИ.
"Во-первых, изменился рынок мошенничества. «Гардиан» писал пару дней назад, что вместо 100-200 человек теперь нужно 1-2. У тебя есть и ферма, которая производит, генерирует контент, звонки и так далее. Это уровень бытового мошенничества, а дальше уже шпионаж, гибридная война, то, что сейчас происходит. И они просто засвидетельствуются. Мы понимаем, что пропагандисты тоже используют какие-то модели искусственного интеллекта", - сказал консультант по ИИ.
При этом часть технологических корпораций, например, "Мета", и ряд политических лидеров не разделяют этих опасений. Так, президент США Дональд Трамп призывает не сдерживать развитие ИИ. Опасения касательно безопасности он называет выдумкой и нездоровым заговором. А еще приказал переименовать ИИ - в документах теперь должны использовать термин не искусственный, а Супер-интеллект. Аналитики отмечают, всё дело в том, что Трамп боится проиграть гонку Китаю.
"Потому что для него, в первую очередь, это политическая гонка. Это такая же гонка, как между Советским Союзом и США. Кто первый полетит в космос, того и тапки. Тот будет являться супердержавой. Поэтому замедление или даже остановка, о чем никто не говорит, это заведомо проигрыш. И дать возможность форы нагнать. То время, тот разрыв, который есть сейчас с Китаем. Некоторые ученые считают, что это полгода. Трамп называет год. США впереди на год. Дата-центр это новая нефть. И в ближайшие четверть века на этом будут зарабатывать большие деньги. США, как страна, хочет остаться номер один. Не дать это Китаю", - отметил Анатолий Бузинский.
Ранее Си Цзиньпин публично утверждал, что прогресс в технологиях ИИ должен «оставаться под контролем человека». Газета NYT отмечает, что обвинения Китая в копировании американских ИИ-технологий стали одной из тем переговоров глав США и КНР. Крупнейшие американские лаборатории ранее обвиняли китайские компании в краже их интеллектуальной собственности. Компания Anthropic сообщила, что хакеры использовали ее продукт для проведения кибератаки, целью которой стали около 30 компаний и госучреждений по всему миру.
"Самые сильные классные модели передовые у США. Кремниевая долина как была, так и остается в авангарде. На втором месте Китайская Народная Республика. И у них альтернативные модели с открытыми весами, которые можно посмотреть, использовать. Там присутствует цензура отчасти в этих моделях. И, конечно, не добросовестное поведение. Потому что, например, «Антропик» подтвердило, что были кейсы, когда модели китайские на самом деле просто перенаправляли свой запрос на американские и выдавали это за свой ответ. И в том числе так утекла информация, данные, которые принадлежали Министерству обороны Российской Федерации. То есть кто-то из России думал, что общается с китайскими моделями, а на самом деле китайские перенаправляли в Авель. И это всё как-то просочилось. Поэтому китайцы вторые, они наступают на пятки, они очень активные", - сказал Анатолий Бузинский.
Европа тоже хочет быть среди лидеров. Глава ЕК Урсула фон дер Ляйен заявляла о планах Брюсселя задать темп стремительного развития ИИ. Однако сейчас Европа по многим параметрам отстает от США и Китая. У ЕС нет доминирующих моделей, нет аналогов OpenAI, Claude или DeepSeek. Единственная сфера, где можно говорить о лидерстве - это регулирование: в 2024 вступил в силу акт ЕС об ИИ, а в августе этого года начали действовать правила прозрачности и управления. Но проблема в том, что ИИ не признает государственных границ. Пока США, Китай и Европа вырабатывают собственные правила, единого международного подхода нет. О том, как контролировать технологию глобального масштаба, на этой неделе говорили и в Совете Безопасности ООН.
"Искусственный интеллект затрагивает множество наиболее актуальных проблем, стоящих перед нами. Он уже ускоряет диагностику рака в Великобритании, но его потенциал гораздо шире: ИИ способен не просто помогать в профилактике и лечении этого заболевания, но и способствовать его полному излечению. Кроме того, ИИ станет движущей силой экономического роста и ключом к трансформации образования, а также важнейшим инструментом обеспечения нашей безопасности». Однако мы понимаем, что ИИ также привнесет серьезные перемены в наш привычный уклад жизни и труда, усилив существующие риски. Мы слышали предупреждения, к которым необходимо отнестись со всей серьезностью. Я знаю, как сильно это беспокоит людей. Поэтому мы должны достойно ответить на этот вызов", - заявил премьер-министр Великобритании Энди Бернем.
Технология развивается глобально, а правила пока остаются разрозненными. На международном уровне страны пытаются найти общий язык, но одновременно конкурируют за лидерство в этой сфере. И за этой конкуренцией стоят огромные экономические интересы.
"Что есть здравомыслящего у лагеря номер один, который просит замедлить? Несколько примеров случаев, когда ИИ вышел из-под контроля и выступил в роли хакера на нескольких системах. Самый известный это хаггинфейс. И потом еще было несколько кейсов. Это не классно. Что хорошо у лагеря Трампа и Цукерберга с Хуангом? Те прогнозы, что нас ИИ поработит, захватит и так далее, уже к 2026 году подходят к своему логическому решению, не оправдались. Здесь точно присутствуют политические интересы, присутствуют коммерческие. Какой коммерческий контекст? Антропик в октябре, то есть уже совсем скоро, они перенесли на середину октября, выходит на IPO. И, возможно, это будет крупнейшее IPO в мире, в истории. То есть это порядка 900 миллиардов долларов. Это просто какие-то буквально космические цены. И Хуанг на прошлой неделе очень хорошую такую мысль дал, что с точки зрения маркетинга самое классное, что можно дать клиенту, это создать проблему. Сначала создаешь проблему, а потом предлагаешь решение. Да, поэтому сказать, что у нас появились такие модели, которые вас уничтожат. Поэтому покупайте наши модели, мы вам поможем", - отметил Анатолий Бузинский.
Пока государства и корпорации спорят о правилах, границах и миллиардах долларов, ИИ уже меняет повседневную жизнь людей. И последствия этой зависимости могут оказаться менее заметными, чем технологическая гонка, но более серьезными.
"Важно, что уже зафиксированы случаи зависимости с искусственным интеллектом, что это очень сильное психическое влияние. Поэтому обращать внимание, делать паузы, особенно то, что касается детей, подростков, гигиены, ментально соблюдать, понимать, что это правда серьёзная штука. Посерьёзнее, чем социальные сети, а мы только сейчас понимаем, насколько они могут негативно влиять", - заключил консультант по ИИ.
Вероятно, главный вопрос сегодня уже не в том, сможет ли искусственный интеллект стать умнее человека. А в том, сможет ли человек сохранить контроль над тем, что сам создал.
