Билл Гейтс, один из основателей компании Microsoft, предположил, что в будущем искусственный интеллект может стать причиной гибели миллиарда человек. На фоне участившихся сообщений о возможной потере контроля над системами ИИ это предупреждение вызывает обеспокоенность общества. Своим мнением о вероятности подобного сценария поделился Дэвид Линтикум — международный эксперт в области искусственного интеллекта, облачных технологий и кибербезопасности.

В интервью телеканалу NBC News Билл Гейтс заявил, что искусственный интеллект уже обладает достаточными возможностями, чтобы повлиять на события, способные привести к массовым человеческим жертвам. По его мнению, сочетание современных инструментов ИИ со злонамеренными действиями людей может представлять чрезвычайно серьёзную угрозу для человечества. Гейтс также подчеркнул необходимость законодательного регулирования использования искусственного интеллекта.

Чтобы оценить, насколько реалистичен такой прогноз, издание Tom’s Guide побеседовало с Дэвидом Линтикумом.

По объяснению эксперта, для того чтобы искусственный интеллект смог стать причиной гибели миллиарда человек, он должен получить возможность контролировать критически важную инфраструктуру, системы вооружений, цепочки поставок или биологические системы. Кроме того, системы ИИ должны быть способны действовать без непосредственного участия человека. Для реализации такого сценария потребовалось бы одновременное возникновение нескольких серьёзных проблем, включая неправильное внедрение технологий в различные системы, сбои в управлении и преднамеренное использование ИИ во вредоносных целях.

Линтикум отметил, что подобный сценарий теоретически возможен, однако вероятность его реализации на практике невелика — при условии, что люди не допустят целого ряда ошибок.

По предположению эксперта, Билл Гейтс мог иметь в виду ситуацию, при которой технологии искусственного интеллекта попадут в руки террористических группировок или нестабильных государств. Однако даже в таком случае между намерением использовать технологию и катастрофой глобального масштаба остаётся значительная дистанция. Поэтому специалист оценивает вероятность катастрофы такого уровня как низкую.

Вместе с тем Линтикум не отрицает, что некоторые риски, связанные с искусственным интеллектом, существуют уже сегодня. Он подчеркнул необходимость уделять особое внимание утечкам данных, интернет-мошенничеству, поддельным видео- и аудиозаписям, а также сбоям в работе автоматизированных систем. Дополнительную обеспокоенность вызывают предвзятые решения алгоритмов и злоупотребление технологиями в киберпространстве. Кроме того, некоторые компании могут внедрять ИИ, не обеспечивая достаточного уровня контроля и защиты.

По мнению эксперта, одна из главных опасностей связана с недостаточно проработанными решениями на основе искусственного интеллекта, подключёнными к реальным системам предприятий и государственных учреждений. Линтикум отметил, что особенно его беспокоят системы, которыми пользуются люди, не обладающие достаточными знаниями и навыками для работы с ИИ.

Для обеспечения безопасности искусственного интеллекта и сохранения контроля над ним эксперт рекомендует принять ряд мер. Среди них — ограничение полномочий систем, их изоляция от других систем и выполнение операций с высоким уровнем риска только после подтверждения человеком. Также необходимо регистрировать все действия ИИ, регулярно тестировать системы и не предоставлять ИИ-агентам чрезмерно широкие полномочия или неограниченный доступ к интерфейсам программирования приложений (API).

По словам Линтикума, безопасность должна закладываться в архитектуру системы с самого начала. Для этого важно применять принцип минимально необходимых привилегий, контролировать действия, сохранять возможность возврата к предыдущему безопасному состоянию и изолировать системы. Доверие человека к технологии прежде всего зависит от того, насколько эффективно он способен ограничивать её возможности.

Эксперт также подчеркнул, что полагаться исключительно на кнопку экстренного отключения недостаточно. Она принесёт пользу лишь в том случае, если человек своевременно распознает угрозу и успеет воспользоваться ею до причинения ущерба. Более надёжный подход должен включать многоуровневые механизмы контроля, автоматические выключатели, ограничение частоты операций, изолированные среды для тестирования, процедуры подтверждения действий и журналы аудита. Системы также должны быть устойчивы к кибератакам.

По мнению Линтикума, безопасное использование ИИ необходимо обеспечивать не только на завершающем этапе разработки, но и на протяжении всего жизненного цикла проекта. Как он отметил, кнопка экстренного отключения может создавать у людей ощущение защищённости, однако сама по себе не гарантирует безопасность.

Эксперт также заявил, что искусственный интеллект снижает стоимость кибератак и увеличивает их количество. Сегодня с помощью этой технологии стало проще создавать поддельные электронные письма, копировать голоса людей и изготавливать фальшивые платёжные документы. В то же время ИИ может помогать специалистам по кибербезопасности усиливать защиту.

Несмотря на это, специалисты должны продолжать соблюдать основные правила безопасности. К ним относятся многофакторная аутентификация, повторная проверка полученной информации по телефону и создание резервных копий данных. Линтикум напомнил, что даже информация, которая выглядит или звучит убедительно, может оказаться подделкой.

Говоря о возможности использования искусственного интеллекта для создания биологического оружия, эксперт придерживается более осторожной позиции. По его словам, ИИ способен помогать осваивать биологические знания, совершенствовать рабочие процессы и облегчать проведение предварительных исследований в этой области. Однако для создания оружия массового поражения необходимы специализированные лаборатории, соответствующие материалы и возможности для проведения испытаний. Всё это создаёт серьёзные препятствия.

Тем не менее укрепление мер биологической безопасности имеет большое значение. Эксперт рекомендует проверять запросы, направляемые моделям ИИ, ограничивать доступ к опасным экспериментальным методикам, контролировать заказы для лабораторий и строго соблюдать стандарты биологической безопасности. Если обнаружится использование ИИ в опасных целях, доступ к соответствующим технологиям следует ограничить, а информацию передать ответственным органам.

Линтикум подчёркивает, что ответственность за безопасность искусственного интеллекта должны совместно нести правительства, производители технологий, компании и пользователи. Государства должны учитывать риски в законодательстве и определять ответственность за причинённый ущерб. Разработчики обязаны создавать безопасные, контролируемые и регулярно тестируемые системы. Компании должны анализировать сценарии использования ИИ и контролировать доступ к данным. Пользователям, в свою очередь, следует проверять личность собеседников и обеспечивать безопасность своих учётных записей.

По общему выводу эксперта, в настоящее время главная угроза связана скорее не с самим искусственным интеллектом, а с действиями людей, которые используют его неправильно или пренебрегают необходимыми мерами безопасности.