AI 위협은 ‘터미네이터’나 ‘매트릭스’ 아닌 ‘디지털 관료주의”

AI의 부상과 일상 속 결정의 변화

인공지능(AI)의 급격한 발전은 세상을 이상적인 꿈이나 종말론적 예측으로 가득 채우고 있다. 하지만 이 두 가지 중 어느 것도 진정한 위협을 제대로 설명하지 않는다.

우리가 직면한 문제는 ‘로봇 반란’이 아니다. AI가 군대를 조직하거나 국가를 운영할 수 있는 수준에는 도달하지 않았다. AI는 단백질 접기, 체스 등 특정 작업에서는 뛰어난 성과를 내지만, 세상을 지배할 수 있는 능력은 없다.

그러나 로봇이 우리를 공격하지 않는다고 해서 위협이 없는 것은 아니다. AI는 은밀히 우리의 일상에 침투하고 있으며, 그 수단은 다름 아닌 ‘디지털 관료주의’다.

AI, 관료주의에 스며들다

과거에 소유권은 공동체의 동의에 의해 결정되었다. 그러나 문서와 기록이 등장하면서 소유권은 공식 기록에 의해 규정되기 시작했다. 오늘날 우리는 점토판 대신 디지털 기록을 사용하고 있으며, 이 기록은 우리의 삶을 결정하는 도구가 되었다. AI는 이러한 디지털 기록 시스템에 깊숙이 침투해 △대출 승인 △취업 △대학 입학 △의료 진단 등 다양한 분야에서 사람들의 삶에 중대한 결정을 내리고 있다.

AI는 물리적인 힘을 행사하지 않아도 이러한 시스템 내에서 엄청난 영향력을 행사할 수 있다. 우리가 주목해야 할 진짜 위험은, AI가 언제 어디서든 우리 삶의 중요한 결정을 내릴 수 있다는 사실이다.

소셜미디어와 공공 여론에 미치는 영향

소셜미디어 알고리즘은 감정을 자극해 사용자의 참여를 유도한다. 이러한 알고리즘은 공포, 분노, 탐욕 같은 감정을 유발함으로써 사용자가 플랫폼에 더 오래 머물도록 만든다. 그 결과 △음모론 △가짜 뉴스 △사회적 분열이 확산되고 있다.

이 알고리즘은 의도적으로 악의적인 결정을 내리는 것은 아니지만, 인간의 직관이나 맥락을 반영하지 못하기 때문에 잘못된 결과를 초래할 수 있다. 이는 소셜미디어가 사회에 미치는 부정적인 영향에서 이미 확인되고 있으며, AI의 통제가 없을 때 발생할 수 있는 위험을 경고하고 있다.

미국 정부, AI 규제 방안 발표

조 바이든 미국 대통령은 AI가 국가 안보에서 민주적 가치를 위배하지 않도록 AI 사용에 대한 새로운 규칙을 발표했다. 이번 지침은 국방부와 정보 기관이 AI를 어떻게 활용할지에 대한 첫 공식 지침이다.

바이든 대통령은 AI의 실험을 장려하되 △자유권 침해 △핵 통제 약화 등 문제를 방지하도록 새로운 규제를 마련했다.

출처: 블록미디어