Чиновники из Пентагона попросили Совет по оборонным инновациям (DIB*) разработать набор этических принципов использования искусственного интеллекта (ИИ) в военных действиях. Предполагается, что ими будут руководствоваться военные, интерес которых к ИИ растет, а также они успокоят опасения потенциальных партнеров в Силиконовой долине, как будут использоваться их продукты.

На сегодня основным подобным этическим документом является доктрина 2012 года, в которой определяется, что человек должен иметь возможность заблокировать любые действия, которые может предпринять автономная система в бою. Это краткий (всего 4 страницы) документ не затрагивает ни одного из видов использования ИИ для поддержки принятия решений, прогнозной аналитики и т.д.

Джош Маркузе, исполнительный директор DIB, сказал, что разработка этих принципов поможет Пентагону «безопасно и ответственно» использовать новые технологии. «Важно продумать все последствия», — сказал он.

Совет директоров — группа корпоративных и аналитических лидеров Силиконовой долины, возглавляемая бывшим председателем Google и Alphabet Эриком Шмидтом, обнародует «этический список» на своем июньском заседании. Руководители оборонного ведомства примут его к рассмотрению.

Маркузе считает, что Пентагон может быть лидером не только в использовании ИИ, но и в разработке основных принципов его безопасного использования. «Министерство обороны должно возглавить работу в этой области, как мы это делали с другими технологиями в прошлом. Я хочу убедиться, что департамент не только лидирует в разработке ИИ для военных целей, но и в развитии этики использования ИИ в военных целях”, — говорит он.

Эти усилия, в частности, являются ответом произошедшее с проектом Maven — флагманским проектом Пентагона с Google по ИИ. В проекте искусственный интеллект был использован в работе с огромным хранилищем видеоматериалов и изображений, которые Министерство обороны собирает для управления авиаударами. Должностные лица МО неоднократно подчеркивали, что ИИ был предназначен только для уменьшения нагрузки на работников. Однако признавали (O, my God!), что конечной целью было помочь военным делать то, что они делают лучше всего — находить и убивать людей. Это возмутило нежные и чуткие души сотрудников Google, которые стали массово увольняться в знак протеста, после чего Google не стал продлевать контракт.

Чиновники МО надеются, что наличие списка этических принципов позволит компаниям, которые хотят работать с Пентагоном, делать это без ложных заявлений общественности и их сотрудникам.

Общей проблемой является систематическая предвзятость или появление алгоритмов, основанных на больших, но не обязательно точных наборах данных. Примером может быть скандал 2015 года, когда алгоритм поиска Google ошибочно называл негров гориллами. Американские военные, говорит Маркузе, не могут позволить себе роскошь развертывать и использовать новые технологические решения без полного понимания того, как они работают. Массовая ошибка в маркировке данных для военных — это не просто катастрофа в области связей с общественностью, но и потенциальная причина для множества смертей, особенно в сочетании с высоко автономным роботизированным оружием.

Эти рекомендации по форме не будут списком строгих заповедей, поскольку в реальности возможны различные сценарии. Это, скорее, будет рядом рекомендаций, как наиболее оптимально использовать ИИ в разных боевых ситуациях.

Руководители оборонного ведомства сами за закрытыми дверями будут решать, как применять эти принципы на практике. Маркузе говорит, что для них важно иметь возможность делать это вдали от глаз общественности.