“이러다 AI 기업 다 죽는다” …미국 캘리포니아 AI 법안, 실리콘밸리에서 논란

[블록미디어 이제인 기자] 미국 캘리포니아주에서 추진 중인 인공지능(AI) 규제 법안이 실리콘밸리의 기술 기업들 사이에서 큰 우려를 불러일으키고 있다고 14일(현지 시간) 뉴욕타임스가 보도했다.

캘리포니아 주 상원의원 스콧 위너(Scott Wiener)가 제안한 이 법안은 강력한 AI 기술이 대중에 공개되기 전에 안전성 테스트를 거치도록 요구한다.

AI 기술이 심각한 피해를 초래할 경우 캘리포니아 주 법무장관이 기업을 상대로 소송을 제기할 수 있는 권한도 부여한다.

이 법안은 현재 캘리포니아 주 의회에서 논의 중이며, 곧 주 의회 전체 투표를 앞두고 있다.

개빈 뉴섬(Gavin Newsom) 캘리포니아 주지사가 법안에 서명할 경우, 구글, 메타, 앤스로픽(Anthropic), 오픈AI(OpenAI) 등 캘리포니아에 기반을 둔 주요 AI 기업들은 새로운 규제를 준수해야 한다.

이 법안은 다른 주와 국가 정부에도 선례를 남길 수 있는 중요한 법안으로 평가된다.

# 법안 놓고 팽팽한 대립

법안의 지지자들은 이 법안이 재앙을 예방하고 이윤에만 집중하는 기업들의 활동에 안전장치를 마련할 것이라고 주장한다.

반면, 반대자들은 이 법안이 노동 생산성을 향상시키고, 의료를 개선하며, 기후 변화를 해결할 수 있는 기술의 발전을 저해할 것이라고 우려한다.

오픈AI 대변인은 “이 법안이 불확실한 법적 환경을 조성해 혁신을 저해할 수 있다”고 말했다.

법안은 개발 비용이 1억 달러를 초과하는 시스템과 일정한 컴퓨팅 파워를 사용하는 시스템에 안전성 테스트를 요구하며, 이를 감독할 새로운 주정부 기관을 설립할 것을 제안하고 있다.

비평가들은 이 법안이 AI 개발에 대한 법적 책임을 증가시켜, 기술 대기업들이 소스 코드를 공개하는 오픈 소스 개발을 위축시킬 수 있다고 경고한다.

AI 연구자 제레미 하워드는 이 법안이 가장 강력한 AI 기술이 몇몇 대기업에 집중되도록 할 것이라고 우려를 표명했다.

# 규제 법안 반대

* 얀 르쿤(Yann LeCun) 메타의 수석 AI 과학자

반대 이유: 법안에 대한 직접적인 코멘트는 없으나, AI 기술의 발전을 저해할 가능성 때문에 반대하는 입장을 취한 것으로 추정.

* 앤드류 응(Andrew Ng) 전 구글 임원, 스탠포드 대학 교수

반대 이유: AI 개발에 대한 규제가 혁신을 저해할 수 있다는 입장으로 반대.

* 페이페이 리(Fei-Fei Li) 전 구글 임원, 스탠포드 대학 교수

반대 이유: 법안이 AI 기술의 발전을 방해할 수 있다는 우려 때문에 반대.

* 다리오 아모데이(Dario Amodei) 앤스로픽(Anthropic) 최고경영자(CEO)

반대 이유: 법안이 기업들에게 안전성 테스트를 강요함으로써 혁신을 저해할 수 있으며, 정부가 개입하기보다는 기업들이 자체적으로 안전성 테스트를 수행해야 한다고 주장.

*로렌 와그너(Lauren Wagner) 구글과 메타에서 일한 경험이 있는 투자자 및 연구자

반대 이유: 법안이 새로운 법적 책임을 추가해 혁신을 저해할 수 있으며, 특히 소규모 스타트업에게 불리할 수 있다는 점에서 반대.

* 제레미 하워드(Jeremy Howard) AI 연구자 및 기업가

반대 이유: 법안이 가장 강력한 AI 기술을 소수 대기업에 집중시킬 위험이 있으며, 이는 궁극적으로 AI 기술의 권력을 몇몇 기업에 집중시키는 결과를 초래할 수 있다고 우려.

* 세바스찬 스런(Sebastian Thrun) 구글의 자율주행차 프로젝트 창립자, AI 연구자 및 기업가

반대 이유: AI는 도구에 불과하며, 기술 자체를 규제하는 것보다 AI의 사용 방식을 규제하는 것이 더 효과적이라는 입장. 법안이 AI 발전을 저해할 수 있다고 우려.

# 규제 법안 찬성 이유

* 제프리 힌튼(Geoffrey Hinton) 전 구글 연구원

찬성 이유: 지난 18개월 동안 AI 기술의 위험성에 대해 경고해왔으며, 법안이 이러한 위험을 예방하는 데 도움이 될 것이라고 믿음.

* 요슈아 벤지오(Yoshua Bengio) 몬트리올 대학 교수

찬성 이유: AI 기술의 잠재적 위험성을 경고하며, 법안이 이러한 위험을 방지하는 데 필요하다고 주장.

* 댄 헨드릭스(Dan Hendrycks) AI 안전 센터(Center for A.I. Safety) 창립자

찬성 이유: 복잡한 시스템은 예상치 못한 행동을 할 수 있으며, 법안이 이러한 위험을 최소화하기 위한 안전장치 역할을 할 것이라고 주장. 법안이 대형 기술 회사들이 위험한 행동을 식별하고 제거하도록 유도할 것이라고 강조.

* 스콧 위너(Scott Wiener) 캘리포니아주 상원의원

찬성 이유: AI 기술로 인한 재앙을 예방하기 위해 선제적으로 위험을 관리할 필요가 있다고 주장. “나쁜 일이 벌어진 후에 대처하는 것보다, 리스크를 미리 예측하고 관리하는 것이 중요하다”는 입장을 강조.

출처: 블록미디어