코네티컷주, 프런티어 AI 내부고발자 보호와 콘텐츠 출처표시 의무 시행
코네티컷의 AI 책임투명성법 일부 조항이 10월 1일 발효되며 프런티어 모델 개발자의 내부고발자 보호와 생성 콘텐츠 출처표시가 의무화됐습니다.
왜 지금 이 주제인가
10월 1일부터 코네티컷주의 AI 책임투명성법(Connecticut Artificial Intelligence Responsibility and Transparency Act, CART Act, 공식 명칭 Public Act 26-15)의 일부 조항이 발효됐습니다. 이번에 시행된 조항은 프런티어 AI 모델 개발자에 대한 내부고발자 보호와, 생성 AI 콘텐츠에 출처 정보를 심어야 하는 출처표시(provenance) 의무입니다. 그동안 미국의 프런티어 AI 안전 조치는 기업들의 자발적 약속에 의존해 왔는데, 이번 조치는 주 정부가 법으로 강제하는 구속력 있는 의무라는 점에서 다른 성격을 갖습니다. OpenAI, Google, Anthropic, xAI처럼 대규모 모델을 학습시키는 기업이라면 이 법의 적용 대상이 될 가능성이 높습니다.
핵심 내용
법은 “프런티어 개발자”를 훈련에 10의 26승을 넘는 연산량을 투입한 파운데이션 모델을 만드는 기업으로 정의합니다. 이 중에서도 직전 회계연도 연 매출이 5억 달러를 넘는 기업은 “대규모 프런티어 개발자”로 분류돼 더 무거운 의무를 집니다. 대규모 프런티어 개발자는 2027년 1월 1일까지 직원이 익명으로 우려를 신고할 수 있는 내부 신고 채널을 만들고, 경영진에게 분기마다 관련 현황을 보고해야 합니다.
내부고발자 보호의 핵심은 보복 금지입니다. 법은 직원이 선의로 “재난적 위험(catastrophic risk)“을 신고했다는 이유로 해고, 징계 등 불리한 조치를 하지 못하도록 막습니다. 재난적 위험은 대규모 인명 피해, 10억 달러를 넘는 재산 피해, 화학·생물·방사능·핵(CBRN) 무기 제작 지원, 대규모 피해를 낳는 사이버공격, 모델에 대한 인간의 통제력 상실 등을 포함합니다. 이 보호 조항 자체는 10월 1일부터 효력을 갖지만, 신고 채널 구축 의무는 2027년 1월까지 유예됩니다.
같은 날 발효된 또 다른 조항은 콘텐츠 출처표시 의무입니다. 월간 사용자가 100만 명을 넘는 생성 AI 서비스 제공자는 AI가 만들거나 실질적으로 수정한 음성, 이미지, 동영상에 위변조가 어려운 출처 데이터를 심어야 합니다. 법은 C2PA(Coalition for Content Provenance and Authenticity) 같은 업계 표준 방식을 활용할 수 있도록 하고 있으며, 목적은 소비자가 콘텐츠의 진위와 수정 이력을 확인할 수 있게 하는 것입니다.
이 외에도 10월 1일부터는 AI 구독 서비스 관련 공시 규정과, 공장 폐쇄나 대규모 정리해고 시 AI 활용 여부를 주 노동부에 알려야 하는 의무가 함께 시행됐습니다. 반면 AI 컴패니언 챗봇에 대한 안전 조치는 2027년 1월, 채용 과정의 자동화된 의사결정 기술(AEDT) 공시 의무는 2027년 10월, 미성년자를 대상으로 한 소셜미디어 알고리즘 규제는 2028년 1월로 예정돼 있어 전체 법은 여러 단계로 나뉘어 순차 적용됩니다. 집행은 코네티컷 주 검찰총장이 전담하며, 위반은 부정거래행위(CUTPA)로 다뤄집니다.
의미와 한계
이번 조치의 의미는 프런티어 AI 모델을 겨냥한 미국 내 첫 구속력 있는 주 단위 규제라는 점입니다. 연방 차원에서는 그동안 기업들의 자발적 안전 서약이나 백악관의 비공식 조율에 의존해 왔는데, 코네티컷은 연산량이라는 구체적 기준으로 적용 대상을 특정하고 법적 의무를 부과했습니다. 다른 주가 비슷한 입법을 따라갈 경우 프런티어 연구소들은 주마다 다른 규제를 맞춰야 하는 부담을 지게 될 가능성이 있습니다.
다만 한계도 뚜렷합니다. 집행권은 주 검찰총장에게만 있고 개인이 직접 소송을 제기할 권리는 없어, 실제 효과는 검찰총장의 집행 의지에 좌우될 것으로 보입니다. 또한 “재난적 위험”에 해당하는지, 보복이 실제로 신고 때문이었는지를 입증하는 일은 분쟁이 생길 때마다 다툼의 대상이 될 가능성이 큽니다. 출처표시 의무도 “상업적·기술적으로 합리적인 범위에서”라는 단서가 붙어 있어, 기업이 재량으로 적용 범위를 좁힐 여지가 남아 있습니다. 이런 지점들은 법 시행 이후 실제 사례가 쌓여야 구체적인 모습이 드러날 것으로 보입니다.
한 줄 정리
코네티컷에서 프런티어 AI 내부고발자 보호와 콘텐츠 출처표시 의무가 10월 1일부터 시행되며, 미국 주 단위로는 처음으로 구속력 있는 프런티어 AI 규제가 등장했습니다.