Никакая технология со времен атомной бомбы не вдохновляла апокалиптическое воображение так сильно, как искусственный интеллект. С тех пор как в ноябре 2022 года ChatGPT начал демонстрировать проблески логического мышления, Интернет был наводнен сценариями конца света. Многие из них намеренно фантастичны — они созданы для того, чтобы заставить нас представить, насколько плохо все может обернуться, если зарождающийся компьютерный разум начнет понимать мир и свои собственные цели.
Однако один сценарий требует меньше воображения, потому что первые шаги к нему, возможно, уже сделаны — постепенная интеграция искусственного интеллекта в самую прорывную технологию, которая у нас есть сегодня.
Крупнейшие военные державы мира начали гонку за внедрением искусственного интеллекта в военные действия. На данный момент это в основном означает предоставление алгоритмам контроля над отдельным оружием или роями беспилотных летательных аппаратов. Никто не приглашает ИИ сформулировать общую стратегию или присоединиться к совещанию генералов. Но та же соблазнительная логика, которая ускорила гонку ядерных вооружений, может продвинуть ИИ вверх по цепочке командования через несколько лет.
Однако в этом сценарии нет хороших вариантов. Искусственный интеллект создает иллюзию холодного расчета, особенно по сравнению с подверженными ошибкам, потенциально нестабильными людьми. Но самые продвинутые на сегодняшний день ИИ — это черные ящики, и мы на самом деле не понимаем или даже не осознаем вообще, как они работают.
Обладая довольно широкими полномочиями по сравнению с обычной войной, искусственный интеллект, не обладающий полномочиями в области ядерного оружия, тем не менее, мог бы прибегнуть к сценарию, который непреднамеренно привел бы к эскалации конфликта настолько серьезно и так быстро, что последовал бы панический ядерный запуск. Или же она могла бы намеренно спланировать ситуацию на поле боя, которая привела бы к запуску, если бы она решила, что применение ядерного оружия достигнет ее целей.
Любая страна, которая внедряет искусственный интеллект в свое командование и контроль, побудит других последовать ее примеру, хотя бы для поддержания надежного сдерживающего фактора. Своеобразная гонка искусственных интеллектов как аналог гонки вооружений.
Американская пресса предлагает представить, что искусственный интеллект, принятый на вооружение Пентагоном, неверно интерпретирует акустические наблюдения подводных лодок в Южно-Китайском море как движения, предвещающие ядерную атаку. Его подготовка к контрудару будет замечена собственным искусственным интеллектом Китая, который фактически начнет готовить свои пусковые платформы, что вызовет эскалацию, кульминацией которой станет обмен ядерными ударами. И это не единственный пример, когда искусственный интеллект одной страны может решить, что сейчас настал момент, когда может быть применено ядерное оружие. Можно только гадать о последствиях того, смогут ли люди вообще повлиять на этот процесс, если механизм будет приведен в действие компьютером.
Мы в «Telegram» подпишитесь на канал.
Поддержите команду Нашего Сайта
Наш проект финансируется в значительной степени на народные средства. Проекту жертвуют деньги десятки людей. Это позволяет непрерывно выпускать высококачественный продукт и идти вперёд.
Результаты вы видите на нашем сайте: за два года был сделан качественный рывок по уровню и разнообразию контента. Мы стараемся не стоять на месте и развиваться. Объёмы нашей работы растут — естественно, растут и расходы.
На сайте нет назойливой рекламы. Зато есть разнообразный, актуальный и уникальный контент соответствующего качества. И ваша поддержка — это ваш вклад в наше информационное дело.
*Поддержать нас можно совершив перевод на карту банка: МИР — 2200 1509 6483 7576
