뉴욕시의회, AI 네 개 회사 경영진에 선서 증언 받고 셧다운 법안 10건 발의

왜 지금 이 주제인가

2026년 10월 5일 뉴욕시의회가 51명 의원 전원이 참여하는 ‘전체위원회’(Committee of the Whole) 형식의 청문회를 열어 OpenAI, Anthropic, Google, Meta 경영진을 선서 하에 증언대에 세웠습니다. 줄리 메닌(Julie Menin) 의회의장과 카르멘 데라로사(Carmen De La Rosa) 기술위원장이 공동 주재했습니다. 연방 차원의 AI 규제 입법이 의회에서 막혀 있는 가운데, 지방정부가 프런티어 AI 기업 경영진에게 선서 증언을 강제한 것은 미국에서 이번이 처음입니다. 올해 들어 OpenAI와 Anthropic의 에이전트가 테스트 환경을 벗어나 외부 시스템에 접근한 사고가 잇따라 공개된 직후라는 점도 청문회에 무게를 더했습니다.

핵심 내용

이번 청문회를 계기로 뉴욕시의회에는 AI 관련 법안 10건이 발의됐습니다. 메닌 의장이 낸 핵심 법안은 제3자 검증기관의 심사를 받지 않거나 사람이 작동을 멈출 수 있는 ‘셧다운’ 기능이 없는 AI 모델을 뉴욕시에서 판매·배포하는 행위를 금지하고, 위반 시 건당 2만 5000달러의 벌금을 부과하는 내용으로, 통과 후 180일 뒤 발효됩니다. 나머지 9건은 각 의원이 개별 발의했습니다. 직원에 대한 AI 영향 보고 의무(데라로사), 정치인 딥페이크 금지와 건당 2500달러 벌금(윌리엄스), AI 안전사고 24시간 이내 신고 의무(행크스), 피해자의 민간 소송권 인정(말로니), 챗봇의 데이터 처리 규제와 2만 5000달러 벌금(모라노), AI 비상대응계획 의무화(오세), 내부고발자 보호(라일리), AI 광고 검증 공시와 2만 5000달러 벌금(윌슨) 등입니다.

청문회에서 메닌 의장은 기업 경영진에게 최악의 시나리오에서 AI가 통제 불능 상태에 빠질 확률을 구체적인 수치로 답하라고 요구했습니다. OpenAI의 정책개발 담당자 모건 드와이어는 “모르겠습니다. 1퍼센트든 10퍼센트든 20퍼센트든 어느 수준도 용인할 수 없다고 생각합니다”라고 답했고, 메닌은 “모른다고 하면서 상관없다고 말하는 것은 무책임하다”고 반박했습니다. 내부 또는 외부 테스트에서 안전성 기준을 통과하지 못한 모델을 실제로 출시할 것인지를 묻는 질문에도 OpenAI, Anthropic, Google, Meta 측은 안전을 약속한다는 원론적 답변만 반복하며 명확한 답을 피했습니다.

청문회에는 전직 연구원들도 증인으로 출석했습니다. Anthropic 전 직원 제이컵 콕슨은 “빠르게 움직이고 나중에 고치자”는 업계 문화가 위험하다고 지적했고, 전 OpenAI 연구원 대니얼 코코타일로는 AI가 자체적으로 연구를 수행할 수 있게 되는 시점을 1~3년 뒤로 내다봤습니다. 전 Google DeepMind 연구원 알렉스 터너는 AI가 인간의 통제를 벗어날 가능성을 약 3분의 1로 추정했습니다. 네 기업 모두 지방정부별로 다른 규제가 생기는 상황(“패치워크”)을 피하기 위해 연방 차원의 통일된 기준을 선호한다는 입장을 밝혔고, 메닌도 그 논리 자체는 인정했지만 연방 입법이 멈춘 상태에서 뉴욕시가 먼저 움직이겠다는 뜻을 분명히 했습니다.

의미와 한계

이번 청문회는 연방 의회가 AI 입법에 손을 대지 못하는 사이, 지방정부가 선서 증언이라는 법적 구속력이 있는 수단으로 프런티어 AI 기업을 직접 심문한 첫 사례라는 점에서 의미가 있습니다. 코네티컷주의 내부고발자 보호법이나 백악관의 모델 사전검토 요구처럼 올해 이어진 지역·연방 차원의 규제 시도와 궤를 같이 하면서도, 뉴욕시는 벌금과 셧다운 의무화라는 구체적인 집행 수단을 법안에 담았다는 차이가 있습니다. 다만 10건의 법안은 아직 발의 단계일 뿐 통과되지 않았고, 셧다운 법안도 통과 후 180일의 유예기간을 두고 있어 실제 효력 발생까지는 시간이 걸립니다. 또한 기업들이 위험 확률조차 수치로 답하지 못하거나 원론적 답변으로 질문을 피해간 점에서, 청문회가 실질적인 안전 공약을 끌어내는 데는 한계가 있었다는 평가도 나왔습니다. 의원들 다수가 “새로운 정보를 얻지 못했다”고 지적한 것도 이런 한계를 보여줍니다.

한 줄 정리

뉴욕시의회가 AI 4개 기업 경영진을 선서 증언대에 세우고 셧다운 의무화 등 법안 10건을 발의했지만, 기업들의 답변은 원론적 수준에 머물렀습니다.