Брэд Смит из Microsoft говорит, что ИИ может стать оружием

По словам топ-менеджера крупного разработчика искусственного интеллекта Microsoft, люди должны постоянно контролировать сверхразумные машины, чтобы гарантировать, что их нельзя использовать в качестве оружия.

В интервью CNBC, которое вышло в эфир в понедельник, президент технологического гиганта Брэд Смит предупредил, что искусственный интеллект может «стать и инструментом, и оружием».

Он не единственное громкое имя в сфере технологий, которое бьет тревогу по поводу возможных разрушительных возможностей ИИ: двое из так называемых «крестных отцов ИИ» и основатели создателя ChatGPT OpenAI выступили с мрачными предупреждениями о перспективах технологии.

Генеральный директор Tesla Илон Маск зашел так далеко, что предупредил, что это может стать катализатором конца человечества.

«Я думаю, что каждая технология, когда-либо изобретенная, потенциально может стать и инструментом, и оружием», — сказал Смит Мартину Сунгу из CNBC. «Мы должны гарантировать, что ИИ останется под контролем человека. Будь то правительство, армия или какая-либо другая организация, которая думает об использовании ИИ для автоматизации, скажем, критической инфраструктуры, нам необходимо гарантировать, что у нас есть люди, которые контролируют ситуацию, что мы можем замедлить процесс или отключить его. »

Сама Microsoft является крупным инвестором в искусственный интеллект: в начале этого года она вложила 10 миллиардов долларов в OpenAI и включила чат-бота с генеративным искусственным интеллектом ChatGPT в свою флагманскую поисковую систему Bing. Обновленный Bing дал неоднозначные результаты для первых пользователей.

Смит добавил в интервью в понедельник, что из-за потенциальных рисков, связанных с использованием ИИ, Microsoft выступает за то, чтобы компании «поступали правильно», а также за новые законы и правила, которые обеспечат соблюдение протоколов безопасности.

«Мы видели необходимость в этом в других местах», — сказал он. «Просто представьте, что электричество зависит от автоматических выключателей. Вы сажаете своих детей в школьный автобус, зная, что там есть аварийный тормоз. Мы уже делали это раньше для других технологий. Теперь нам нужно сделать то же самое и для ИИ».

Поскольку в развитие передовых технологий искусственного интеллекта инвестируются миллиарды долларов, многие размышляют о том, как они изменят нашу повседневную жизнь, что приводит к предсказаниям о смертоносных машинах, призывам к более эффективному управлению искусственным интеллектом и прогнозам, что мир скоро будет увидеть рассвет новой эры искусственного интеллекта.

Однако эксперты, похоже, разделились во мнениях относительно того, принесет ли ИИ человечеству возрождение или конец света.

На саммите генеральных директоров Йельского университета, который проходил только по приглашениям ранее этим летом, почти половина руководителей, опрошенных на мероприятии, заявили, что, по их мнению, искусственный интеллект способен уничтожить человечество в течение следующих пяти-десяти лет.

Еще в марте 1100 видных технологов и исследователей искусственного интеллекта, в том числе Маск и соучредитель Apple Стив Возняк, подписали открытое письмо с призывом к шестимесячной паузе в разработке мощных систем искусственного интеллекта. Они указали на возможность того, что эти системы уже находятся на пути к сверхразуму, который может угрожать человеческой цивилизации.

Соучредитель Tesla и SpaceX Маск отдельно заявил, что эта технология поразит людей «как астероид», и предупредил, что есть шанс, что она «превратится в Терминатора». С тех пор он основал свою собственную фирму по искусственному интеллекту xAI, что, по его словам, является попыткой «понять вселенную» и предотвратить вымирание человечества.

Однако не все разделяют мнение Маска о том, что сверхразумные машины могут уничтожить человечество.

В прошлом месяце более 1300 экспертов собрались вместе, чтобы успокоить беспокойство по поводу того, что ИИ создает орду «злых повелителей роботов», в то время как один из трех так называемых крестных отцов ИИ назвал опасения по поводу того, что технология становится экзистенциальной угрозой, «нелепо смешными».

Топ-менеджер Meta Ник Клегг также попытался развеять опасения по поводу этой технологии в недавнем интервью, настаивая на том, что большие языковые модели в их нынешнем виде «довольно глупы» и, конечно же, недостаточно умны, чтобы спасти или уничтожить цивилизацию.

Однако не только перспектива захвата мира злыми машинами вызывает беспокойство по поводу развития искусственного интеллекта.