[저녁뉴스] AI 경쟁의 무게중심, 성능에서 보안·데이터·통제로

오늘 IT과학 분야에서는 AI 경쟁의 무게중심이 단순한 성능 향상에서 보안 체계, 학습데이터, 사용 통제로 넓어지는 흐름이 뚜렷했다. 국내에서는 국가·공공 사이버보안 강화와 피지컬 AI 데이터 확보가 핵심 과제로 떠올랐고, 미국에서는 국방 분야의 AI 통제와 미중 안전규범 논의가 이어졌다.

핵심 요약

• 국정원이 AI 보안평가와 레드팀 검증을 포함한 9대 사이버보안 정책을 추진한다.
• 클라우드·소프트웨어 공급망 보호와 양자내성암호 전환도 공공 보안의 주요 과제로 제시됐다.
• 국내 기업들은 동작·현장·촉각 데이터를 확보하며 피지컬 AI 경쟁력을 키우고 있다.
• 미국에서는 국방 시스템의 생성형 AI 사용 제한과 미중 AI 안전협정 요구가 동시에 부상했다.

국정원, AI 방어조직 중심으로 공공 사이버보안 강화

국정원은 AI 안보 전담조직을 중심으로 국가·공공부문의 사이버보안 정책을 강화한다. 추진 내용에는 AI 에이전트 보안평가, 공격 상황을 가정해 취약점을 점검하는 레드팀 테스트베드, 클라우드와 소프트웨어 공급망 보안이 포함됐다.

양자컴퓨터 시대에 대비한 양자내성암호 전환도 주요 축이다. 공공기관 보안평가뿐 아니라 관련 인력과 예산 관리까지 강화한다는 점에서, 이번 정책은 개별 기술 도입보다 공공 보안 운영체계 전반을 정비하는 성격이 강하다.

특히 AI 에이전트가 공공 업무에 활용될수록 자율적인 판단과 외부 시스템 연계 과정에서 새로운 보안 검증이 필요해진다. 사전 평가와 모의 공격, 공급망 점검을 함께 추진하는 것은 AI 도입 속도에 맞춰 방어 기준도 구체화하려는 움직임으로 볼 수 있다.

피지컬 AI 경쟁, 로봇이 배울 ‘경험 데이터’가 가른다

국내 기업들은 인간의 동작과 산업 현장 작업, 촉각 정보를 로봇 학습용 데이터로 축적하고 있다. 텍스트나 이미지 중심의 생성형 AI와 달리 피지컬 AI는 실제 공간에서 움직이고 물체와 상호작용해야 하므로, 현실의 행동과 감각을 담은 데이터가 핵심 자원으로 부상했다.

현실에서 모든 상황을 반복해 수집하기 어려운 만큼 디지털 트윈과 가상환경도 데이터 구축 수단으로 활용된다. 이는 국내 제조업의 현장 경험을 로봇 학습자산으로 전환할 수 있다는 점에서 중요하며, 데이터의 규모와 다양성이 향후 로봇 경쟁력을 좌우할 요소로 떠올랐다.

미 법원, 국방부의 ‘클로드 배제’ 조치 유지

미 연방항소법원은 앤트로픽의 생성형 AI 클로드를 국방부 시스템과 관련 계약에서 배제한 조치에 근거가 있다고 판단했다. 이에 따라 해당 사용 제한은 유지됐다.

이번 사안의 핵심은 군사 분야에서 허용할 AI 활용 범위와 AI 기업이 설정한 안전 제한을 누가 어떤 기준으로 조정할지에 있다. 생성형 AI의 국방 도입이 확대될수록 성능뿐 아니라 공급기업의 안전정책, 정부의 운용 권한, 계약 기준이 함께 쟁점이 될 수 있음을 보여준다.

미 의회에서 미중 AI 안전협정 요구

미국 하원의원은 미중 정상회담 이후 양국 간 AI 안전협정 체결을 촉구했다. 제안에는 초지능과 재귀적 자기개선 개발의 일시 중단, 출시 전 안전성 검사, 비상 정지 기준과 국제 검증체계 마련이 담겼다.

이는 아직 협정 체결이 아니라 의회 차원의 요구다. 다만 AI 경쟁이 기술과 산업을 넘어 국가 간 검증규칙과 안전장치 논의로 확장되고 있다는 점에서, 한국의 AI 외교와 산업 환경에도 관련성이 있는 흐름이다.

오늘 나온 네 가지 움직임은 서로 다른 층위에서 연결된다. 로봇 산업은 더 많은 경험 데이터를 요구하고 있지만, 공공·국방 영역은 AI를 실제 시스템에 연결하기 전에 검증과 통제 기준을 강화하고 있으며, 국제사회에서는 그 기준을 국가 간 규범으로 넓히려는 논의가 시작됐다.

오늘의 핵심 정리

지금 주목할 점은 AI 경쟁력이 모델 성능 하나로 결정되지 않는다는 사실이다. 국내에서는 국정원의 AI 보안평가·레드팀 체계가 공공 현장에 어떻게 적용되는지, 양자내성암호 전환과 공급망 보안이 어떤 방식으로 추진되는지 확인해야 한다.

산업 측면에서는 피지컬 AI 학습데이터의 규모와 활용 방식이 핵심 지표다. 국제적으로는 미국 국방 분야의 AI 사용 기준과 미중 안전협정 제안이 실제 행정부 협의나 검증체계 논의로 이어지는지가 후속 관전 포인트다.