Ведение войны с применением ИИ сталкивается с моральными и этическими проблемами

Неизученные сценарии применения искусственного интеллекта (ИИ / AI) во время боевых действий ходе вооружённого конфликта вызывают серьёзную озабоченность международного сообщества. Причина в том, что неизвестно, какие самостоятельные действия предпримет искусственный интеллект и какова в этом будет роль людей, передаёт Euronews.

Украина запускает Brave 1, амбициозную инициативу по разработке военных технологий с помощью экспертов со всего мира. От систем обороны и кибербезопасности до создания нетрадиционных вооружений — таких, как автоматизированное или автономное оружие, которое благодаря искусственному интеллекту могло бы действовать самостоятельно и навсегда изменить военные действия. Но будущее применение такого оружия вызывает споры.

Вопрос, вокруг которого ведутся самые жаркие дискуссии, заключается в том, какова будет роль людей.

«Постоянно та или другая миссия прерывается из-за этических, юридических, технических проблем или просто из-за эволюции самого боя», — говорит Цезарь Пинадо, эксперт Центра по вопросам разведки, безопасности и обороны CISDE (Испания).

«Это также связано с потерей моральных принципов, потому что с человеком-оператором теоретически всегда существует вероятность того, что человек может проявить сострадание, сочувствие и вынести суждение, а система, которая обучена на данных и предварительно запрограммирована на что-то, этого не сделает», — считает Анна Набидиадзе, научный сотрудник Центра военных исследований Университета Южной Дании.

Операции с роем дронов, собак-роботов или роботов-гуманоидов в не столь отдалённом будущем могли бы проводиться в вооруженных конфликтах и помочь избежать большого числа жертв. Но существует ряд рисков, когда при использовании искусственного интеллекта алгоритмы могут иметь погрешности в своих моделях данных — такие, как ошибки биометрической идентификации лица или отсутствие глубокой оценки их окружения.

«Что произойдёт, если эта бронемашина в какой-то момент будет захвачена другими силами? Что, если эта модель танка также используется союзными войсками, или если он на мгновение окажется рядом с союзными войсками или с такими зданиями, как, например, храм или школа?» — задаётся вопросами Цезарь Пинадо.

«Эта идея о том, что так называемые роботы-убийцы, знаете ли, как бы обретают собственное сознание и появляются на поле боя — это футуристическая вещь, и она как бы из научной фантастики и фильмов. На самом деле эта не та тема, о которой следует спорить», — говорит сотрудница Центра военных исследований Анна Набидиадзе.

Неизученные сценарии использования искусственного интеллекта в военных действиях вызывают озабоченность международного сообщества. На гражданском уровне эксперты по ИИ призвали к шестимесячной приостановке разработки этих технологий для изучения их возможных последствий. Анна Набидиадзе призвала страны ускорить регулирование этого вопроса.

«Правительства стран во всём мире очень заинтересованы в инвестировании в такие проекты, явно заинтересованы и продолжают вкладывать большие деньги в эти технологии. Существует настоятельная необходимость решить эту проблему с помощью юридически обязывающих правил, потому что в настоящее время действующие международные правила и международное гуманитарное право недостаточны для решения этих проблем», — заявила эксперт.

«СП»

Читайте также:

• ChatGPT дал прогнозы о возможных причинах конца света
• В Японии научили искусственный интеллект обнаруживать мины в земле
• Как используют и на что способен искусственный интеллект на поле боя