# 프론티어 AI 규제 표준기구, 규칙을 만드는 네 주체

- 게시: 2026.07.18
- 원문(HTML): https://trendbrief.news/articles/%ED%94%84%EB%A1%A0%ED%8B%B0%EC%96%B4-ai-%EA%B7%9C%EC%A0%9C-%ED%91%9C%EC%A4%80%EA%B8%B0%EA%B5%AC-%EA%B7%9C%EC%B9%99%EC%9D%84-%EB%A7%8C%EB%93%9C%EB%8A%94-%EB%84%A4-%EC%A3%BC%EC%B2%B4.html
- 발행: [트렌드브리프](https://trendbrief.news/)

![프론티어 AI 규제 표준기구, 규칙을 만드는 네 주체](https://trendbrief.news/assets/articles/%ED%94%84%EB%A1%A0%ED%8B%B0%EC%96%B4-ai-%EA%B7%9C%EC%A0%9C-%ED%91%9C%EC%A4%80%EA%B8%B0%EA%B5%AC-%EA%B7%9C%EC%B9%99%EC%9D%84-%EB%A7%8C%EB%93%9C%EB%8A%94-%EB%84%A4-%EC%A3%BC%EC%B2%B4/hero-1.png)

> 프론티어 AI를 규제하는 단일 표준기구는 없다. NIST·ISO 같은 표준기구, EU AI 사무국, 프론티어 모델 포럼, 각국 AI 안전연구소 네트워크가 층을 이룬다. 2026년 7월 기준 개발자가 챙길 네 축을 짚었다.

## 프론티어 AI에 '단일 규제 표준기구'는 없다

결론부터 말하면 '프론티어 AI 규제 표준기구'라는 이름의 단일 기관은 없다. 프론티어 AI(현존하는 가장 앞선 대규모 AI 모델을 가리키는 말)를 다루는 규칙은 성격이 다른 네 종류의 주체가 층층이 만든다. 국제 표준을 쓰는 표준기구, 법으로 강제하는 규제 당국, 개발사들이 모인 업계 자율기구, 그리고 국가별 AI 안전연구소 네트워크다. 2026년 7월 기준으로 각 축이 어디까지 와 있는지, 모델 위에서 서비스를 만드는 개발자가 무엇을 봐야 하는지 짚는다.

마침 이 '단일 표준기구 부재'를 정면으로 겨냥한 제안이 나왔다. 구글 딥마인드 CEO이자 노벨상 수상자인 데미스 허사비스는 2026년 7월 14일 X에 “A Framework for Frontier AI and the Dawning of a New Age”라는 에세이를 올려, 미국이 주도하는 새 프론티어 AI 표준기구를 세우자고 제안했다. 아래에서 정리할 네 주체 어디에도 아직 없는 바로 그 '하나의 창구'를 만들자는 얘기라, 이 지형도를 먼저 읽어 두면 제안이 어디를 노리는지 선명해진다. 구체적인 얼개는 뒤의 업계 자율기구 대목에서 다시 본다.

이 글은 특정 국가의 국내법을 조문 단위로 파고들지 않는다. 대신 전 세계에서 실제로 규칙을 만드는 주체가 누구이고, 프론티어 모델을 쓰는 쪽에서 어떤 의무와 문서를 챙겨야 하는지에 초점을 둔다. 법률 자문이 아니라 지형도라고 보면 된다.

## 표준을 만드는 기구는 어디인가

국제 표준을 쓰는 곳은 두 축을 먼저 기억하면 된다. 국제표준화기구(ISO)와 국제전기기술위원회(IEC), 그리고 미국 국립표준기술연구소(NIST)다.

ISO와 IEC는 2023년 12월 ISO/IEC 42001을 발표했다. AI 경영시스템(AIMS), 즉 조직이 AI를 만들고 운영하는 절차 자체를 다루는 첫 국제 표준이다. 품질경영의 ISO 9001이나 정보보안의 ISO 27001처럼, 개별 모델의 성능이 아니라 리스크 관리·문서화·책임 소재 같은 운영 체계를 인증받는 틀이라고 보면 된다.

NIST는 미국 상무부 산하 기관으로, AI 위험관리 프레임워크(AI RMF 1.0)를 내놓았다. 이 프레임워크는 위험 관리 절차를 거버넌스(Govern)·매핑(Map)·측정(Measure)·관리(Manage) 네 기능으로 나눈다. 여기에 더해 NIST는 2024년 7월 생성형 AI에 특화된 프로파일(NIST AI 600-1)을 공개했는데, 환각(confabulation)이나 유해 콘텐츠 생성처럼 생성형 모델에서 두드러지는 위험 12가지를 따로 묶었다. 원문과 프로파일은 [NIST 공식 페이지](https://www.nist.gov/itl/ai-risk-management-framework)에서 받을 수 있다. 두 표준 모두 법으로 강제하지 않는 자율 규범이다. 다만 조달이나 보안 감사에서 준수 여부를 확인 항목으로 요구하는 흐름이 있어, 자율이라고 건너뛰기는 어렵다.

## 법적 구속력을 가진 규제는 EU가 앞선다

강제력 있는 규제로 가장 앞선 곳은 유럽연합이다. EU는 AI법(AI Act)으로 프론티어급 모델을 '범용 AI(GPAI, 여러 작업에 두루 쓰이는 기반 모델)'로 묶어 별도 의무를 지운다. 실무를 집행하는 조직은 집행위원회 산하 유럽 AI 사무국(European AI Office)이다.

유럽 AI 사무국은 2025년 7월 10일 범용 AI 실행규약(GPAI Code of Practice)을 확정해 공개했다. 이 규약은 투명성·저작권·안전 및 보안 세 장으로 구성되고, 앞의 두 장은 모든 GPAI 제공자에게, 안전·보안 장은 '시스템적 위험을 가진 GPAI'에만 적용된다. 사무국 설명에 따르면 학습에 쓴 부동소수점 연산량(FLOP)이 10의 25제곱(10²⁵)을 넘는 모델은 고영향 능력을 가진 것으로 추정해 이 시스템적 위험 범주로 분류된다. GPAI 관련 의무는 2025년 8월 2일부터 적용되기 시작했고, 정보 요청이나 모델 회수 같은 집행 조치는 그로부터 1년 뒤인 2026년 8월 2일부터 발동된다. 규제의 원문과 일정은 [유럽 집행위원회의 AI법 안내 페이지](https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai)에 정리돼 있다. EU가 정한 이 임계값과 일정은 유럽 밖 개발사에도 사실상 참고 기준이 된다.

## 업계 자율기구와 국가 안전연구소 네트워크

표준·규제와 별개로, 개발사들이 스스로 모인 자율기구도 있다. 대표적인 곳이 프론티어 모델 포럼(Frontier Model Forum)이다. 2023년 7월 26일 앤트로픽·구글·마이크로소프트·오픈AI가 공동으로 설립했다. 프론티어 모델의 안전 연구, 평가·벤치마크 표준화, 모범 사례 공유를 목표로 내건 산업 협의체이며, 발표 자료와 연구 결과를 [공식 사이트](https://www.frontiermodelforum.org/)에서 공개한다.

이 자율기구 계보에 최근 굵직한 제안이 하나 더 얹혔다. 도입부에서 짚은 허사비스의 에세이가 그것이다. 그는 월가를 감독하는 자율규제기구 FINRA를 본떠, 미국 정부가 뒷받침하되 운영은 독립적으로 이뤄지고 자금은 AI 랩들이 대는 기구를 제안했다. 의사결정은 튜링상 수상자 같은 전문가가 다수를 차지하는 독립 이사회가 맡고, 그 이사회에 업계·정부·오픈소스 대표가 함께 앉는 구조다. 허사비스는 [X에 올린 이 에세이](https://x.com/demishassabis/status/2076957440109625718)에서 해당 방식이 “기술 중심이면서 혁신을 지지하고 책임 있는 행동을 장려한다”고 밝혔다.

작동 방식은 단계적이다. 허사비스의 구상대로면 처음에는 프론티어 랩이 모델을 출시 최대 30일 전에 자발적으로 공유해 심사를 받고, 심사 프로토콜이 효과적이고 견고하다는 점이 입증되면 이를 의무로 전환해 미국 시장에 배포하려면 통과가 필수가 되게 한다. 적용 대상은 출신국이나 오픈·클로즈 여부와 상관없이 모든 프론티어급 모델이고, 기준 벤치마크는 모델 역량이 올라가는 데 맞춰 갱신한다. 목표 시점으로는 '수개월' 안, 이상적으로는 연말 전 가동을 잡았다. 이 제안은 개별 정부가 임기응변식으로 모델을 심사하는 방식이 기술 전문성과 투명성이 부족하다는 비판을 겨냥한 것이기도 하다.

정부 쪽에서는 각국 AI 안전연구소를 잇는 네트워크가 움직인다. 이 구상은 2024년 5월 AI 서울 정상회의에서 나왔고, 국제 AI 안전연구소 네트워크(International Network of AI Safety Institutes)라는 이름으로 2024년 11월 샌프란시스코 첫 회의에서 공식 출범했다. 미국 상무부와 국무부 발표에 따르면 한국을 포함해 호주·캐나다·EU·프랑스·일본·케냐·싱가포르·영국·미국이 창립 회원으로 참여했다. 같은 발표에서 한국은 합성 콘텐츠 위험 연구에 4년간 720만 달러(연 180만 달러)를 투입하기로 했다. 네트워크는 파운데이션 모델 테스트, 합성 콘텐츠 위험, 고급 AI 위험 평가를 공동 과제로 잡았다.

다만 이 층은 최근 방향이 흔들렸다. 영국 정부는 2025년 2월 14일 AI 안전연구소(AI Safety Institute)를 AI 보안연구소(AI Security Institute)로 이름을 바꿨고, 미국 상무부는 2025년 6월 4일 자국 AI 안전연구소를 AI 표준혁신센터(CAISI)로 개편했다. 두 나라 모두 '안전(safety)'보다 사이버·생물·화학 위협 같은 '보안(security)'과 표준 쪽으로 무게를 옮겼다. 국가 기관의 우선순위가 정권에 따라 바뀔 수 있다는 점은, 규정 근거를 특정 기관 한 곳에만 묶어 두면 안 되는 실무적 이유가 된다.

![파란 격자 큐브(프론티어 모델)가 심사 패널·돋보기·달력이 있는 아치형 게이트를 통과해 체크마크를 단 채 상점(시장)에 도착하고, 점선 가지는 수정 반려를 나타내는 선화](https://trendbrief.news/assets/articles/%ED%94%84%EB%A1%A0%ED%8B%B0%EC%96%B4-ai-%EA%B7%9C%EC%A0%9C-%ED%91%9C%EC%A4%80%EA%B8%B0%EA%B5%AC-%EA%B7%9C%EC%B9%99%EC%9D%84-%EB%A7%8C%EB%93%9C%EB%8A%94-%EB%84%A4-%EC%A3%BC%EC%B2%B4/sec-gate-1.png)

Hassabis가 제안한 FINRA형 심사: 모델이 시장 배포 전 독립 표준기구의 게이트를 통과하고, 미달이면 되돌아간다.

## 개발자는 무엇부터 봐야 하나

가장 먼저 볼 것은 내가 모델을 '만드는 쪽'인지 '쓰는 쪽'인지다. 파운데이션 모델을 직접 학습·배포한다면 EU AI법의 GPAI 의무와 임계값이 직접 걸린다. 반대로 상용 모델 위에 애플리케이션만 얹는다면, 당장 챙길 것은 조직의 AI 운영 체계를 세우는 표준 쪽이다. 네 축을 성격별로 놓고 보면 이렇게 갈린다.

| 축 | 대표 주체 | 구속력 | 핵심 산출물 |
| --- | --- | --- | --- |
| 국제 표준 | ISO·IEC, NIST | 자율(권고) | ISO/IEC 42001, AI RMF 1.0 |
| 법적 규제 | EU AI 사무국 | 강제(EU 역내) | AI법·GPAI 실행규약 |
| 업계 자율 | 프론티어 모델 포럼 | 자율(회원) | 안전 연구·평가 표준 |
| 국가 연구소 | AI 안전·보안연구소 네트워크 | 연구·평가 | 모델 테스트·위험 평가 |

실무 순서로는, 사내에서 AI를 어떻게 다룰지 절차부터 세운 뒤 개별 규제로 넘어가는 편이 덜 흔들린다. 조직이 파일럿 단계에서 더 나아가지 못하는 원인 중 하나가 이런 거버넌스 공백인데, [개발팀이 실험 단계에서 멈추는 지점을 짚은 글](https://trendbrief.news/articles/ai-%EB%8F%84%EC%9E%85-%EB%8B%A8%EA%B3%84-%EA%B0%9C%EB%B0%9C%ED%8C%80%EC%9D%B4-%EC%8B%A4%ED%97%98%EC%97%90%EC%84%9C-%EB%A9%88%EC%B6%94%EB%8A%94-%EC%A7%80%EC%A0%90.html)에서도 비슷한 병목이 보인다. NIST AI RMF의 네 기능이나 ISO/IEC 42001의 관리 항목을 체크리스트 삼아 내부 문서(위험 대장, 모델 카드, 데이터 출처 기록)를 먼저 갖추면, 나중에 EU 실행규약이든 조달 감사든 대응이 훨씬 수월하다.

'프론티어 AI 규제 표준기구'는 하나의 창구가 아니라 표준·규제·업계·국가라는 네 층의 합이다. 각 층은 산출물이 자율 규범인지 강제 규범인지, 갱신 주기가 어떤지가 다르다. 어느 한 곳의 문서만 붙들기보다 내 위치에 맞는 층을 골라 추적하는 편이 현실적이다.

## 관련 글

- [AI 에이전트 자기개선, 네 가지 방식과 검증기의 역할](https://trendbrief.news/articles/ai-%EC%97%90%EC%9D%B4%EC%A0%84%ED%8A%B8-%EC%9E%90%EA%B8%B0%EA%B0%9C%EC%84%A0-%EB%84%A4-%EA%B0%80%EC%A7%80-%EB%B0%A9%EC%8B%9D%EA%B3%BC-%EA%B2%80%EC%A6%9D%EA%B8%B0%EC%9D%98-%EC%97%AD%ED%95%A0.md)
- [OfficeCLI 사용법: 설치부터 AI 에이전트 연동까지](https://trendbrief.news/articles/officecli-%EC%82%AC%EC%9A%A9%EB%B2%95-%EC%84%A4%EC%B9%98%EB%B6%80%ED%84%B0-ai-%EC%97%90%EC%9D%B4%EC%A0%84%ED%8A%B8-%EC%97%B0%EB%8F%99%EA%B9%8C%EC%A7%80.md)
- [AI 도입 단계, 개발팀이 실험에서 멈추는 지점](https://trendbrief.news/articles/ai-%EB%8F%84%EC%9E%85-%EB%8B%A8%EA%B3%84-%EA%B0%9C%EB%B0%9C%ED%8C%80%EC%9D%B4-%EC%8B%A4%ED%97%98%EC%97%90%EC%84%9C-%EB%A9%88%EC%B6%94%EB%8A%94-%EC%A7%80%EC%A0%90.md)
- [AI 에이전트 스킬 만들기, SKILL.md 폴더 하나로 시작하기](https://trendbrief.news/articles/ai-%EC%97%90%EC%9D%B4%EC%A0%84%ED%8A%B8-%EC%8A%A4%ED%82%AC-%EB%A7%8C%EB%93%A4%EA%B8%B0-skill-md-%ED%8F%B4%EB%8D%94-%ED%95%98%EB%82%98%EB%A1%9C-%EC%8B%9C%EC%9E%91%ED%95%98%EA%B8%B0.md)
- [Harmonize로 Swift 아키텍처 규칙을 유닛 테스트로 강제하기](https://trendbrief.news/articles/harmonize%EB%A1%9C-swift-%EC%95%84%ED%82%A4%ED%85%8D%EC%B2%98-%EA%B7%9C%EC%B9%99%EC%9D%84-%EC%9C%A0%EB%8B%9B-%ED%85%8C%EC%8A%A4%ED%8A%B8%EB%A1%9C-%EA%B0%95%EC%A0%9C%ED%95%98%EA%B8%B0.md)