윤리적 전쟁범죄를 위한 최고의 알고리즘을 모색하다

일본 오사카 - 2016년 9월 26일: Universal Studios의 터미네이터 3D에서 나온 인간 크기 T-800 내골격 모델 japan© Sarunyu L / Shutterstock.com

전쟁 시에 관련 있는 모든 시민은 정치인과 군대가 자신의 행동에 대해 수용 가능한 제약으로 간주하는 것이 무엇인지 궁금해해야 합니다. 이들은 아마도 이해 관계에 대한 진지한 이해와 공동선에 대한 헌신 덕분에 결정을 내리는 사람들입니다.

AI는 새로운 차원을 가져옵니다. 대부분의 사람들은 AI가 우선 순위에 대한 알고리즘적 이해에 따라 합리적인 결정을 내리도록 설계되었다고 믿기 때문에 그러한 결정이 전쟁 범죄와 유사할 때 그 결과에 대해 인간을 비난할 수 없습니다. 모든 윤리 체계의 핵심인 책임이라는 개념 자체가 사라지고 있습니다. 의도가 범죄가 아니었기 때문에 알고리즘을 만든 사람을 비난할 수는 없습니다. 전쟁범죄를 낳은 조건을 만든 주체를 비난할 수 밖에 없다. 그러나 AI의 경우 에이전트는 추상화입니다.

그렇다면 우리는 세 가지 이질적이고 잠재적으로 충돌할 수 있는 세력, 즉 극도로 실용적인 군사적 효율성 개념, 훨씬 더 추상적인 윤리 표준 개념, AI의 합리성 등을 어떻게 조화시킬 수 있을까요?

워싱턴포스트에 따르면 한 고위 간부는 미국이 '유대교-기독교 사회'이기 때문에 논의할 여지가 별로 없다고 생각한다.

자율전에 대한 미 국방부의 견해에 대해 질문을 받았을 때 공군의 계획 및 프로그램 참모차장인 3성 장군인 Richard G. Moore Jr.는 7월 허드슨 연구소 행사에서 다음과 같이 설명했습니다. “당신의 신념이 무엇이든 우리 사회는 유대교-기독교 사회이며 도덕적 나침반을 가지고 있습니다. 모두가 그렇지는 않습니다. 그리고 어떤 수단을 사용하든 관계없이 기꺼이 목적을 달성하려는 사람들이 있습니다.”

오늘의주간 악마 사전정의:

무어의 수사가 드러나고 있다. 그는 “당신의 신념이 무엇인지에 관계없이” 포용성에 대한 의무적인 고개를 끄덕이는 것으로 자신의 주장을 시작합니다. 이를 통해 그는 "우리 사회는 유대교-기독교 사회이며 우리에게는 도덕적 나침반이 있습니다."라는 근본적인 진리를 확인하기 전에 미국 권리 장전이 허용하는 모든 범위의 종교적, 심지어 반종교적 사상을 인정할 수 있습니다.

대법원이 상업 기업을 “도덕적 사람”으로 간주해야 한다는 19세기 생각에 기초하여 기업이 사람이라고 밝힌 것처럼, 무어는 다문화적이고 민주적인 사회라도 도덕적 정체성을 가지고 있다고 믿습니다. 이는 아마도 모든 도덕적 존재가 그러하듯이 자신의 행동에 책임이 있다는 것을 의미할 것입니다.

그러나 무어의 생각은 여기서 한 걸음 더 나아간다. 미국은 도덕적 정체성을 갖고 있을 뿐만 아니라 모든 사람이 자신의 행동에 대해 책임을 공유하는 도덕적 단위로 생각할 수 있습니다. 그것은 또한 “도덕적 나침반”을 가지고 있습니다. Dictionary.com은 이것을 "윤리적 행동 및 의사 결정과 관련하여 개인을 안내하는 내면화된 가치 및 목표 세트"로 정의합니다. 다양한 논평자들은 이를 "양심"이라는 아우구스티누스의 생각과 비교합니다. 그러나 양심은 의식과 마찬가지로 개인의 의사결정에 초점을 맞추더라도 명확한 철학적 정의를 거스르는 개념입니다. 둘 다 개인의 인식 체계를 나타내며 주관성을 암시합니다. 집단적 실체에는 둘 다 적용될 수 없습니다. 이러한 이유로 기업, 국가 또는 기타 집단적 실체가 행동 강령이나 사명 선언문 이상의 도덕적 나침반을 갖고 있다는 개념을 성공적으로 이론화한 사람은 아무도 없습니다.

인식에 영향을 미치는 모든 것의 집단적 공유 또는 조화를 설명할 때 인류학자와 사회학자는 문화의 "핵심 가치"라고 부르는 것을 설명하는 것을 선호합니다. 그러나 이러한 가치를 도덕적 또는 윤리적 원칙과 혼동해서는 안 됩니다. 다소 논쟁의 여지가 있는 "유대-기독교" 문화라는 개념은 윤리적 틀과는 거의 관련이 없으며 모호하게 공식화된 정치적, 경제적 가정과 더 관련이 있습니다.