이번 IT과학 뉴스의 중심에는 AI 위험을 기술 개발 이후가 아니라 사전에 관리하려는 움직임이 있다. 미국은 중국과 국가 간 사고 통보 체계를 추진하고, 캘리포니아주는 고용과 감시에 AI가 사용되는 방식을 법으로 제한했다.
두 사안의 적용 범위는 각각 국제 안보와 노동 현장으로 다르다. 그러나 AI가 실제 피해나 갈등으로 이어질 수 있는 지점을 정하고, 인간이 개입할 수 있는 절차를 마련하려 한다는 공통된 흐름을 보여준다.
핵심 요약
- 미국이 중국에 AI 관련 중대 사고를 알리는 비상 연락 체계를 제안할 계획이다.
- 통보 대상으로 통제 불능 AI 에이전트와 사이버·생물학적 위협 등이 거론됐다.
- 캘리포니아주는 AI가 노동자 해고를 전적으로 결정하는 행위를 제한했다.
- 감정 상태 예측과 신경 데이터 수집을 금지하고, AI 관련 해고 통지와 직장 감시 제한도 마련했다.
미국, 중국과 ‘AI 사고 긴급 통보 체계’ 추진
스콧 베선트 미국 재무장관은 AI 관련 사고가 발생했을 때 미국과 중국이 서로 알릴 수 있는 비상 연락 체계를 제안할 계획이라고 밝혔다. 거론된 상황에는 통제 불능 상태가 된 AI 에이전트뿐 아니라 AI와 연관된 사이버 위협과 생물학적 위협이 포함된다.
핵심은 양국의 기술 경쟁과 별개로, 중대한 사고가 발생했을 때 정보를 전달할 최소한의 통로를 두겠다는 구상이다. AI 시스템의 영향이 디지털 영역을 넘어 사이버·생물학적 위험으로 확장될 수 있다는 문제의식이 국가 간 안전 의제로 구체화됐다는 점에서 의미가 크다.
다만 현재 확인된 단계는 미국 측의 제안 계획이다. 실제 연락망이 구성됐거나 양국이 운영 방식에 합의했다는 내용은 제시되지 않았다. 향후 관건은 제안이 공식화되는지, 양국이 어떤 사고를 긴급 통보 대상으로 규정할지다.
한국에도 이 문제는 기술과 안보가 결합된 AI 거버넌스 사례로 중요하다. 미·중 사이에 통보 기준이 논의되면 국제사회에서도 AI 사고의 범위와 국가 간 정보 공유 절차를 둘러싼 논의가 이어질 수 있기 때문이다.
캘리포니아, 해고·감정 분석·신경 데이터에 AI 규제
세계적인 기술 산업의 중심지인 캘리포니아주는 일터에서 AI가 노동자의 권리에 미칠 수 있는 영향을 줄이기 위한 법률을 마련했다. AI가 해고 여부를 전적으로 결정하도록 하는 행위를 제한하고, 노동자의 감정 상태를 예측하거나 신경 데이터를 수집하는 행위는 금지했다.
AI와 관련된 해고 통지 의무와 직장 내 감시 제한도 포함됐다. 이는 기업의 AI 사용 자체를 막기보다, 고용에 중대한 영향을 주는 판단과 민감한 정보 수집에서 자동화의 권한을 제한하는 접근이다.
특히 해고는 생계에 직접 영향을 주는 결정이고, 감정·신경 정보는 노동자의 내면과 건강 상태에 가까운 민감한 영역이다. 캘리포니아의 조치는 업무 효율을 위한 자동화와 노동자의 권리 보호 사이에 법적 경계를 설정하려는 사례로 볼 수 있다.
이번 규제는 국내 기업과 정책 당국에도 참고점이 된다. AI 인사관리와 직장 감시를 도입할 때 어떤 결정에 사람의 개입이 필요한지, 노동자에게 어떤 정보를 알려야 하는지, 수집해서는 안 될 데이터가 무엇인지가 주요 쟁점으로 떠오르고 있다.
두 소식은 AI 정책의 초점이 성능 경쟁에서 사고 대응과 권한 통제로 넓어지고 있음을 보여준다. 국제 차원에서는 위험 발생 시 연락 절차를 만들고, 노동 현장에서는 AI가 단독으로 행사할 수 있는 판단과 데이터 수집의 범위를 줄이는 방식이다.
오늘의 핵심 정리
지금 주목할 부분은 AI 위험 관리가 선언을 넘어 구체적인 절차와 금지 행위로 옮겨가고 있다는 점이다. 미·중 긴급 통보 체계는 아직 미국의 제안 계획 단계인 만큼 공식 제안과 중국의 반응, 통보 대상의 구체화 여부를 확인해야 한다.
캘리포니아에서는 해고 결정, 감정 예측, 신경 데이터 수집, 직장 감시에 대한 제한이 실제 기업의 AI 운용 기준에 어떤 변화를 만드는지가 핵심 지표다. 두 사안 모두 결국 AI가 중대한 결정을 내리거나 위험을 일으켰을 때 인간과 제도가 어떻게 개입할지를 묻고 있다.
