Четыре уровня контроля: Трамп и технологические корпорации договорились о "саморегулировании" в сфере AI
Дональд Трамп, а также шесть технологических корпораций подписали соглашение о «саморегулировании» в сфере искусственного интеллекта. Документ предусматривает четыре уровня контроля: механизм, отслеживающий опасные возможности моделей; внутреннюю команду, ответственную за проверку; независимый внешний аудит; комитет совета директоров, который будет следить за устранением проблем. По словам главы xAi Илона Маска, это как «проверка домашних заданий друг друга». Соглашение подписали на фоне растущих хакерских угроз.
Подписи под соглашением оставили главы корпораций Google, Anthropic, Meta, OpenAI, Nvidia и xAI, а также Дональд Трамп. Согласно документу, компании несут ответственность за обеспечение безопасности тех технологий, которые они создают. Корпорации договорились внедрить защитные механизмы, обеспечивающие работу ИИ-моделей в соответствии с заданными принципами. Эти механизмы также должны оперативно выявлять и устранять любые неполадки. Кроме того, они будут сотрудничать с «независимыми аудиторами» для оценки того, функционируют ли их системы искусственного интеллекта надлежащим образом. Независимые проверяющие, как предполагается, также должны будут следить за тем, чтобы ИИ-агенты и платформы не взламывали «технические системы и не получали к ним доступ несанкционированными способами».
При этом, по словам американского президента, обязательства, оговоренные в этом документе, носят скорее «моральный» характер. Он неоднократно говорил о том, что риски, связанные с искусственным интеллектом, не так уж велики. Глава Белого дома утверждал это, даже несмотря на то, что ведущие компании в этой сфере призывали к усилению контроля над технологиями. Трамп на встрече с лидерами корпораций вновь заявил о своей поддержке стремительного расширения сети дата-центров - инфраструктуры, обеспечивающей работу систем искусственного интеллекта. А еще подписал указ о переименовании ИИ.
"Это не искусственный, а супер интеллект. Вот в чем дело. Сегодня мы официально сменили название. Мы официально заменили название на SI. Понятно? SI - именно так. SI вместо AI. Знаете, что это значит? Супер-интеллект (Superintelligence). Теперь вы знаете название; полагаю, это действительно важное заявление, ведь это решение приняли самые выдающиеся, самые умные и лучшие в мире специалисты в этой области. Несколько дней назад я встречался с председателем Си, и он признал: это умнейшие в мире люди в своем деле. Это очень серьезное событие. Но название официально изменено на «супер-интеллект», или SI", - заявил президент США Дональд Трамп.
Глава МЕТА Марк Цукерберг заявил, что это соглашение вселяет в «американский народ уверенность в том, что технология работает так, как было задумано. Руководитель Anthropic Дарио Амодеи назвал это способом «победить безопасно», сославшись на недавнее высказывание президента США о том, что «тот, кто выиграет гонку в сфере ИИ, победит во всем». А глава Nvidia Дженсен Хуанг считает что между инновациями, технологиями и безопасностью нет никакого противоречия.
"Нам предстоит создавать новые технологии для расширения возможностей искусственного интеллекта, но мы также разрабатываем технологии, повышающие его безопасность. Все эти технологии сегодня создаются силами самой отрасли. Посмотрите: позади меня - огромное количество лидеров нашей индустрии, действующих как единое целое. Мы будем развивать эту технологию, имеющую колоссальное значение для человечества и будущего процветания нашей страны, - и делать это мы будем ответственно и безопасно", - отметил глава NVIDIA Дженсен Хаунг.
Однако ряд экспертов сомневаются, что соглашение сможет защитить людей от реальных угроз, которые будут возникать по мере совершенствования ИИ-технологий. На неделе компания OpenAI объявила об отказе от выпуска своей новейшей флагманской модели - GPT-6.1 Astra - из соображений безопасности. Пока в мире нет консенсуса о необходимости замедления развития ИИ. Основатель Microsoft Билл Гейтс вовсе полагает, что ИИ способен спровоцировать события, которые могут привести к гибели миллиарда человек на планете.
