AI 기본법

AI 기본법은 정식 명칭이 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」인 한국의 인공지능 규율 법률입니다. 2025년 1월 21일 법률 제20676호로 공포됐고, 공포 후 1년의 준비 기간을 거쳐 2026년 1월 22일 시행됐습니다. 같은 날 시행령도 함께 시행되면서 세부 기준이 정리됐습니다. 이름에 '기본법'이 붙은 데서 알 수 있듯 규제만 담은 법이 아니라, 산업 진흥과 이용자 보호를 한 법에 함께 넣은 구조입니다.

법을 읽을 때 가장 먼저 잡아야 할 개념은 고영향 인공지능입니다. 사람의 생명이나 신체 안전, 기본권에 중대한 영향을 줄 수 있는 영역에서 쓰이는 AI를 뜻하며, 의료, 채용과 인사 평가, 대출 심사, 교통, 에너지 같은 분야가 여기에 해당합니다. 고영향 인공지능을 만들거나 제공하는 사업자는 위험 관리 방안을 마련하고, 이용자에게 해당 사실을 미리 알리며, 사람이 결과를 확인하고 개입할 수 있는 절차를 두어야 합니다.

고영향 여부는 모델의 성능이나 크기가 아니라 쓰임새로 갈립니다. 같은 LLM이라도 사내 회의록 요약에 쓰면 해당하지 않고, 지원자 서류를 걸러 내는 데 쓰면 고영향 영역에 들어갑니다. 학습 데이터에 편향이 섞여 특정 집단이 불리해지는 상황을 어떻게 점검했는지, 결과가 이상할 때 사람이 뒤집을 수 있는 경로가 있는지가 실제 확인 대상이 됩니다.

생성형 AI 결과물 표시 의무

일반 창작자와 마케터에게 가장 직접적으로 와닿는 부분은 표시 의무입니다. 생성형 AI로 만든 문서, 이미지, 영상에는 AI가 만들었다는 사실이 드러나도록 표시해야 합니다. 실제와 구분하기 어려운 딥페이크성 결과물은 이용자가 명확하게 인식할 수 있는 방식으로 고지해야 하고, 애니메이션이나 웹툰처럼 현실과 혼동할 여지가 적은 결과물은 눈에 보이지 않는 디지털 워터마크로 갈음할 수 있습니다.

여기서 자주 나오는 오해가 있습니다. 모델을 직접 만들지 않고 외부 API만 가져다 쓰는 서비스는 대상이 아니라고 생각하기 쉽지만, 이용자에게 생성 결과물을 제공하는 위치에 있다면 표시 의무의 주체가 될 수 있습니다. 사내 블로그에 ChatGPT로 초안을 만들어 올리는 경우처럼 경계가 애매한 사례도 많으므로, 조직 안에서 어떤 산출물에 어떤 표시를 붙일지 기준을 미리 정해 두는 편이 안전합니다.

제재와 계도기간

의무를 지키지 않으면 시정명령을 받고, 이에 따르지 않으면 3천만원 이하의 과태료가 부과될 수 있습니다. 다만 정부는 시행 초기의 혼란을 줄이기 위해 사실조사와 과태료 부과에 대해 계도기간을 운영하기로 했습니다. 계도기간 동안에는 위반이 곧바로 과태료로 이어지지 않지만, 의무 자체가 없어지는 것은 아닙니다. 준비할 시간을 준 것이지 면제가 아니라는 점을 구분해야 합니다.

국내에 사업장이 없는 해외 사업자라도 일정 규모 이상이면 국내 대리인을 지정해야 하는 조항이 있습니다. 해외 AI 서비스를 국내에 들여와 유통하는 사업자라면 이 부분을 먼저 확인하는 것이 좋습니다. 반대로 국내 사업자가 해외 모델을 백엔드로 붙여 서비스를 만드는 경우에는, 모델 제공사가 아니라 서비스를 운영하는 쪽이 이용자에 대한 설명과 표시 책임을 지게 되는 구조를 이해해 두어야 합니다.

EU 인공지능법과 비교하면 성격 차이가 뚜렷합니다. 두 법 모두 위험의 크기에 따라 의무를 달리 매기지만, EU 쪽은 금지 관행을 명시하고 매출 대비 비율로 과징금을 매기는 등 제재 강도가 훨씬 높습니다. 한국 법은 진흥 조항과 정부 지원 근거를 함께 담아 산업 육성 쪽에도 무게를 실었습니다. 두 시장을 모두 상대하는 기업이라면 EU 기준에 맞춰 문서를 만들어 두면 국내 대응은 대체로 흡수됩니다.

실무에서 지금 해 둘 일은 거창하지 않습니다. 사내에서 쓰는 AI 기능 목록을 만들고, 각 기능이 고영향 영역에 닿는지 표시하고, 생성 결과물이 외부에 나가는 경로마다 표시 방식을 정하는 정도로 시작하면 됩니다. 학습·평가에 쓴 데이터와 가드레일 설정, 사람이 검토한 기록을 남겨 두는 습관도 함께 들여 두면 AI 거버넌스 문서를 나중에 몰아서 만드는 상황을 피할 수 있습니다.