미국, 고급 AI 및 클라우드 제공업체에 보고 의무화 제안

미국 상무부는 월요일, 첨단 인공지능(AI) 개발자와 클라우드 컴퓨팅 제공업체에 대해 기술의 안전성을 보장하고 사이버 공격에 견딜 수 있도록 하기 위한 상세한 보고 요구 사항을 제안했다고 밝혔다.

상무부 산업안보국(Bureau of Industry and Security)의 이번 제안은 '프론티어' AI 모델과 컴퓨팅 클러스터의 개발 활동에 대해 연방 정부에 보고하는 것을 의무화한다.

또한 사이버 보안 조치 및 비전문가가 화학, 생물학, 방사능 또는 핵무기를 개발하는 데 진입 장벽을 낮출 수 있는 위험한 기능을 포함한 사이버 공격을 지원할 가능성 등을 테스트하는 이른바 레드팀(red-teaming) 노력의 결과에 대해서도 보고할 것을 요구한다.

레드팀은 사이버 보안 분야에서 새로운 위험을 식별하기 위해 수년 동안 사용되어 왔으며, 이 용어는 냉전 시기 미국에서 적군을 '레드팀'이라고 명명한 시뮬레이션에서 유래했다.

텍스트, 사진, 동영상을 생성할 수 있는 생성형 AI는 일자리 대체, 선거 혼란, 그리고 잠재적으로 인간을 능가해 치명적인 결과를 초래할 수 있다는 두려움과 함께 주목받고 있다.

상무부는 이번 제안에 따라 수집된 정보가 "이러한 기술들이 엄격한 안전 및 신뢰성 기준을 충족하고, 사이버 공격에 견딜 수 있으며, 외국 적대 세력이나 비국가 행위자들에 의해 악용될 위험을 제한하는 데 매우 중요하다"고 밝혔다.

2023년 10월 조 바이든 대통령은 미국 국가 안보, 경제, 공공 건강 또는 안전에 위험을 초래하는 AI 시스템 개발자가 이를 공개하기 전에 안전성 테스트 결과를 미국 정부와 공유하도록 요구하는 행정명령에 서명했다.

이 규칙은 첨단 AI 모델과 컴퓨팅 클러스터에 대한 보고 요건을 설정하게 된다.

이번 규제 추진은 AI에 대한 의회 내 입법 조치가 정체된 상황에서 나왔다.

올해 초 BIS는 AI 개발자에 대한 시범 조사를 실시했다. 바이든 행정부는 AI와 관련된 안보 우려가 증가함에 따라 미국 기술을 중국이 사용하는 것을 방지하기 위한 일련의 조치를 취해왔다.

주요 클라우드 제공업체로는 아마존(NASDAQ)의 AWS, 알파벳(NASDAQ)의 구글 클라우드, 마이크로소프트(NASDAQ)의 애저(Azure) 부문이 포함된다.