“이 약을 먹으면 한 달에 10㎏가 빠져요. 3㎏만 빼실 분들은 절대 드시지 마세요!” 유튜브만 켰다 하면 등장하는 가짜 AI 의사들의 약품 광고! 그런데 이제 AI를 잘못 사용했다가는 최대 3천만 원의 과태료를 물 수 있습니다. 올해 1월 22일부터 시행된 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」(이하 AI 기본법) 때문인데요. 포괄적인 AI 법체계를 마련한 것은 유럽연합(EU)에 이어 우리나라가 두 번째이지만, AI 규제법을 전면 시행한 사례로는 우리나라가 세계 최초 수준으로 평가됩니다. 이번 글에서는 AI 기본법과 관련한 일곱 가지 핵심 질문을 중심으로, 해당 법령의 주요 내용과 의미를 알기 쉽게 소개해 드리겠습니다.
AI 기본법의 핵심 목적은 인공지능 기술의 건전한 발전을 촉진하는 동시에, 국민이 신뢰할 수 있는 AI 활용 환경을 조성하는 것입니다. 단순히 규제에 초점을 맞춘 법이 아니라, 산업 육성과 위험 관리의 균형을 지향하고 있다는 점이 특징인데요.
이에 따라 인공지능사업자는 이용자가 해당 결과물이 AI에 의해 생성되었음을 명확히 인식할 수 있도록, 생성형 AI로 만든 콘텐츠에 워터마크 등 식별 가능한 표시를 해야 합니다. 오픈AI와 같은 전문 AI 기업뿐만 아니라 포털·플랫폼 사업자가 제공하는 AI 기반 검색, 요약, 생성 서비스 역시 규제 대상에 포함될 수 있죠.
특히 고영향 AI를 활용한 제품이나 서비스를 제공하는 경우 이용자에게 해당 사실을 사전에 고지해야 할 의무가 있는데요. 이는 AI 활용 과정에서 발생할 수 있는 사회적·개인적 위험을 최소화하고, 이용자의 알 권리와 선택권을 보호하기 위해서입니다.
정부는 국민의 생명과 안전, 기본권에 중대한 영향을 미칠 수 있는 보건·의료, 채용·인사 평가, 금융 신용 판단, 에너지·교통 등 핵심 인프라 운영, 수사·재판 지원 등을 고영향 AI로 규정했습니다.
예를 들어 AI가 채용 서류를 평가하거나 은행 대출 심사를 자동으로 판단하는 경우, 개인의 삶에 직접적인 영향을 미칠 수 있기 때문에 고영향 AI로 분류될 가능성이 있습니다. 이러한 분야의 사업자는 AI 시스템을 반드시 사람이 관리·감독하는 체계를 갖춰야 하며, 안전 조치 사항을 정부에 보고해야 합니다. 아울러 누적 연산량 기준을 제시해 적용 범위를 명확히 했습니다.
다만 업계에서는 고영향 AI 판단 기준이 아직 충분히 명확하지 않다는 의견도 제기되고 있습니다. 특히 ‘중대한 영향’의 범위가 다소 추상적이라는 지적이 있는데요. 이에 대해 정부는 기술 발전과 사회 변화에 따라 고영향 AI 범주는 유연하게 조정될 수 있으며, 산업 혁신을 저해하지 않도록 최소 규제 원칙을 유지하겠다는 입장을 밝혔습니다.
AI 기본법은 AI 모델을 직접 개발하거나 이를 기반으로 서비스를 제공하는 기업을 주요 규제 대상으로 합니다. 따라서 일반 이용자가 생성형 AI를 활용해 만든 결과물은 규제 대상에서 제외됩니다. AI를 활용해 웹툰을 제작하는 작가나, AI로 생성한 그래픽 영상을 영화에 삽입하는 영화 제작자 역시 서비스 제공자가 아닌 이용자로 분류됩니다.
콘텐츠 제작 과정에서 AI가 일부 활용된 경우까지 표시 의무 대상에 포함되는지, 단순 보정이나 초안 생성 단계까지도 적용되는지 여부에 대해서는 구체적인 기준이 마련되지 않은 상황입니다. 정부는 향후 하위법령과 세부 가이드라인을 통해 적용 범위를 단계적으로 명확화하겠다는 방침을 밝혔는데요. 단, AI로 생성한 사진, 영상뿐 아니라 TTS(Text-to-Speech), AI 챗봇과 같은 음성과 텍스트 생성물도 표기 대상임을 숙지하는 것이 좋습니다.
AI 기본법은 해외 기업에도 동일하게 적용됩니다. 전년도 글로벌 매출액 1조 원 이상, 국내 AI 서비스 매출 100억 원 이상, 국내 일평균 이용자 수 100만 명 이상 중 하나라도 해당될 경우 반드시 국내 대리인을 지정해야 합니다.
국내에 법인이 존재하는 경우에는 해당 법인이 국내 대리인 역할을 하며, 국내 법인이 없는 해외 사업자는 법무법인 등을 대리인으로 지정하는 것도 가능합니다. 현시점에서는 오픈AI(OpenAI), 구글(Google) 등 주요 글로벌 빅테크 기업들이 이러한 요건에 해당합니다.
해당 법을 위반할 경우 최대 3천만 원의 과태료가 부과될 수 있으나, 최소 1년 이상 과태료 부과를 유예하는 계도 기간으로 두기로 했습니다. 정부는 AI 기본법이 AI 산업의 건전한 발전과 기술 혁신을 촉진하기 위한 기본 원칙과 방향 제시에 초점을 맞춘 법이므로 규제 요소는 최소화하겠다고 거듭 강조했습니다.
우선 작성자와 작성 시간이 포함된 화면을 캡처하거나 영상 다운로드 혹은 URL 주소를 확보해야 합니다. 해당 AI서비스를 제공하는 업체에 이를 문의하여 문제 해결을 요청하고, 이후 조치가 이뤄지지 않는다면 아래 전문기관에 신고합니다.
인공지능 기술의 건전한 발전을 촉진하기 위해 마련된 AI 기본법. 아직은 갈 길이 멀지만, 이용자 권익 보호를 제도적으로 명시한 첫 법적 장치라 그 의미가 큰데요. AI를 부탁해 티처스 2편에서는 AI를 더 잘 활용할 수 있는 방법에 대해 알려드리겠습니다.
※참고 자료
-SBS 8뉴스, AI 기본법, 우리가 ‘세계 첫 시행’…규제 최소화했다지만
-스브스뉴스, ‘세계 최초’ AI 기본법 시행으로 달라지는 것들
-이글루코퍼레이션, [보안 101] 세계 최초 전면 시행 앞둔 「AI 기본법」, 핵심 쟁점은?
-디지털데일리, AI 기본법이 정의한 ‘고성능 AI’ 기준… ‘10의26제곱’이 뭐길래
-한국청소년활동진흥원, [한눈정보] 인공지능(AI) 안전하게 활용하기