기계와 전쟁을 벌이는 지저분한 윤리 그 속에

AI는 전투에서 의사 결정을 내리고 있습니다. 뭔가 잘못되면 누가 책임을 져야 할까요?

내일 시작될 수도 있는 가까운 미래의 전쟁에서 군인 한 명이 텅 빈 옥상에서 사격 자세를 취합니다. 그의 부대는 도시를 블록 단위로 전투하고 있습니다. 마치 적들이 모든 모퉁이 뒤에 조용히 누워서 총을 쏘는 순간 그들의 표적에 불을 쏟아부을 준비가 되어 있는 것처럼 느껴집니다.

군인은 총 조준경을 통해 근처 건물의 창문을 스캔합니다. 그는 발코니에 걸려 있는 새 세탁물을 발견했습니다. 라디오를 통해 그의 팀이 곧 아래의 열린 땅을 가로질러 이동할 것이라는 소식이 전해졌습니다. 그들이 나가면 총 조준경의 왼쪽 상단에 빨간색 경계 상자가 나타납니다. 장치의 컴퓨터 비전 시스템은 잠재적인 목표를 표시했습니다. 창문에 실루엣이 있는 인물이 총을 쏘려고 다가오는 것 같습니다.

군인은 명확한 시야를 갖지 못하지만 그의 경험에 따르면 시스템은 적에 대한 가장 희미한 정보도 포착할 수 있는 초인적인 능력을 가지고 있습니다. 그래서 그는 상자 위에 십자선을 놓고 방아쇠를 당길 준비를 합니다.

다른 전쟁에서, 아마도 지평선 바로 너머에 있는 지휘관은 모니터 무리 앞에 서 있습니다. 챗봇에서 경고가 나타납니다. 적의 로켓 발사를 위한 가능한 집결지로 지정된 특정 도시 블록으로 진입하는 트럭을 위성이 포착했다는 소식이 전해졌습니다. 챗봇은 이미 추정된 '살상 확률'이 가장 높은 것으로 계산되는 포병 부대에게 트럭을 겨냥하고 대기하라고 조언했습니다.

챗봇에 따르면 인근 건물 중 민간 구조물은 없지만 아직 수동으로 확인되지는 않았습니다. 자세히 살펴보기 위해 시스템에서 파견한 드론이 현장에 도착합니다. 영상에는 트럭이 두 건물 사이의 좁은 통로로 후진하는 모습이 담겨 있습니다. 촬영 기회가 빠르게 다가오고 있습니다.

사령관에게는 이제 모든 것이 조용해졌습니다. 혼돈, 불확실성, 불협화음은 모두 똑딱거리는 시계 소리와 빛나는 버튼 하나의 모습으로 축소되었습니다.

“화재 명령을 승인합니다.”

방아쇠를 당기는 것, 경우에 따라서는 당기지 않는 것. 버튼을 누르거나 보류하는 것입니다. 법적으로나 윤리적으로나 삶과 죽음의 문제에 있어서 군인의 결정은 매우 중요하고 필수불가결합니다. 근본적으로 인간의 전쟁 행위를 정의하는 것은 이러한 결정입니다.

자동화는 우리가 어려운 선택을 하는 데 도움이 되지만 혼자서는 할 수 없습니다.

그러므로 국가와 시민사회가 지능형 자율 무기(인간의 개입 없이 목표물을 선택하고 발사할 수 있는 무기) 문제를 심각한 우려 사항으로 받아들인 것은 놀랄 일이 아닙니다. 지난 5월, 특정 재래식 무기에 관한 UN 협약 당사국들은 10년에 가까운 논의 끝에 이를 준수하기 위해 해당 무기를 사용하는 군대가 “작전 기간, 지리적 범위 및 규모를 제한”해야 한다는 여러 권고 사항에 동의했습니다. 전쟁의 법칙. 이 대사는 구속력이 없었지만 적어도 인간이 살인으로 이어지는 즉각적인 과정에서 언제 어디서나 역할을 해야 한다는 점을 인정한 것이었습니다.

그러나 인간의 의사 결정을 완전히 대체하는 지능형 자율 무기는 아직 실제 사용되는 모습을 본 적이 없습니다. 심지어 미국과 다른 강대국이 배치한 "자율" 드론과 선박도 인간의 면밀한 감독 하에 사용됩니다. 한편, 방아쇠를 당기는 손을 단순히 안내하는 지능형 시스템은 전쟁 제작자의 도구 키트에서 구매를 얻고 있습니다. 그리고 그들은 새로운 질문을 제기할 만큼 조용히 정교해졌습니다. 킬러 로봇에 대한 잘 알려진 논쟁보다 답하기가 더 까다롭고 날이 갈수록 더 긴급한 질문입니다. 부품 기계? 그리고 만약 있다면 그 결정이 살인 결정이 되는 것이 윤리적인 경우는 언제입니까?

오랫동안 컴퓨터화된 수단으로 인간의 결정을 지원한다는 아이디어는 그다지 논란의 여지가 없었습니다. 퇴역 공군 중장 잭 섀너핸(Jack Shanahan)은 1980년대에 자신이 비행한 F4 팬텀 전투기의 레이더가 일종의 의사 결정 보조 장치였다고 말했습니다. 그는 다른 항공기가 있다는 사실을 알려주어 그에 대해 어떻게 해야 할지 알아낼 수 있었다고 말했습니다. 그러나 승무원과 레이더가 동등한 공범자라고 말하는 것은 무리일 것입니다.