인공 지능, AI가 개발되고 현실에서 활용되면서 미래에 대한 우려도 커지고 있는 상황이다.

CA 주는 AI에 의해 지배되는 세상이 되지 않도록 이를 강하게 규제하는 법안을 추진하고 있다.

그것이 SB 1047이다.

SB 1047은 AI를 개발하는 모델 수준에서 규제하는 대단히 획기적인 내용을 담은 법안이다.

인류에 대한 위협이 될 수도 있는 AI를 초기 개발 단계에서부터 통제한다는 것이 CA 주가 추진하고 있는 SB 1047의 기본 정신이다.

이미 지난 5월21일 CA 주 상원이 SB 1047을 통과시켰고 이 달(8월) 중에 CA 주 하원도 처리할 예정이다.

CA 주 하원에서도 승인이 나면 개빈 뉴섬 CA 주지사 서명으로 SB 1047은 법으로 최종 확정되는 상황을 맞고 있다.

이처럼 CA 주의 AI 규제가 현실로 다가온 가운데 AI 업계의 우려는 커지고 있는 분위기다.

SB 1047은 특정 컴퓨팅과 비용 임계값을 초과해서 훈련된 AI 모델에 적용되도록 만들어졌다.

이 SB 1047은 모델의 다운스트림 사용 또는 수정에 대해 개발자가 법적인 책임을 지도록 규정하고 있다.

개발자는 AI에 대한 본격적인 훈련을 시작하기 전에 그 모델이 ‘위험한 기능’을 활성화하거나 제공하지 않음을 인증하고 위험 사용 방지를 위한 일련의 안전 조치를 구현해야 한다.

새로운 법률 시행을 감독하는 것은 ‘Frontier Model 부서’로, 개발자의 수수료와 벌금으로 자금을 조달하는 새롭게 구성되는 감독 규제 기관이다.

이 기관은 안전 기준을 수립하고 AI 법률에 대해 조언하는데 모델의 역량을 잘못 표현하면 개발자가 위증죄로 감옥에 갈 수 있다. 

그래서 AI 업계에서는 SB 1047이 현실화하면 AI 발전을 저해하게 만드는 역할을 하게 될 것이라고 지적한다.

AI 업계가 지적하는 가장 큰 SB 1047의 문제점은 모델 개발 단계에서 AI를 강하게 규제하는 부분이다.

AI 모델은 한마디로 Database나 도구인데 그것을 가지고 대량 살상무기나 나쁜 용도로 사용하는 악의적인 하위 이용자들이 문제라는 것이 AI 업계 주장의 핵심이다.

즉 SB 1047이 법으로 확정되면 AI와 관련해서 창업주, 스타트업, 엔지니어 등이 처벌받게 된다는 것이다.

그렇게 되면 AI 개발과 혁신에 크게 부담을 줄 수밖에 없다는 비판이다.

게다가 SB 1047은 하위 사용자가 저지르는 나쁜 행위에 대해 AI 모델 개발자에 민사상, 형사상 책임을 부과하고 있는데 매우 잘못된 것이고 위험한 선례가 될 것이라고 AI 업계가 반발하고 있다.  

그러니까 운전자가 어떤 자동차를 구입해 개조한 후 도로를 달리다가 사고를 내면 자동차 제조업체를 처벌하는 격이라는 설명이다.

SB 1047이 비록 CA라는 특정한 주에서 추진하는 주법이지만 법으로 확정이 되는 경우에 다른 주로 확산될 것으로 AI 업계는 보고 있다.

따라서 AI 업계는 SB 1047이 CA 주만이 아닌 미국 전체의 법이라는 판단하게 대응하고 있는 것이다.

그렇기 때문에 SB 1047이 CA 주에서 법으로 최종 확정되면 AI 업계의 분위기가 전반적으로 크게 위축될 전망이다.

실제로 AI 업계 일각에서는 SB 1047이 법이 되는 경우에 미국에서 더 이상 개발을 할 수없을 것이라는 우려가 팽배하다.

많은 비용과 처벌의 부담까지 받아가면서 AI 모델을 개발할 회사나 개인이 없을 것이라는 지적이다.

규제 환경이 더 합리적인 관할권으로 가서 개발할 것이고 그러면 미국은 AI 경쟁에서 뒤처질 것이라고 AI 업계는 경고하고 있다.  

스타트업 창업자나 학술적 연구자가 AI 개발 때문에 감옥에 가거나 재정적 파산 위험을 감수하지는 않는다는 것이다.

하지만 CA 주는 AI 규제가 반드시 필요하다는 입장이어서 AI 업계의 반발에도 불구하고 SB 1047의 현실화가 다가오고 있는 분위기다.