유럽연합이 세계 첫 인공지능 규제법안인 인공지능법(AI Act)에 합의했습니다. 뉴욕타임즈 등에 따르면 EU 집행위원회(EC)와 유럽의회, EU 27개 회원국 대표 등은 37시간이 넘는 마라톤 회의 끝에 AI법 합의에 지난 8일(현지시간) 다다랐습니다.
쟁점이었던 ‘안면인식’, 합의 도달
합의안은 등급을 나누어 AI의 위험성을 분류하고, 투명성을 강화하며 규정을 준수하지 않는 기업에 벌금을 부과하는 내용을 골자로 합니다. EU의 인공지능법은 정치적, 종교적 신념, 성적 지향, 인종 등 민감한 특성을 기준으로 사람을 분류하는 안면 인식 데이터베이스 구축을 위해 인터넷에서 생체인식 정보를 수집하는 것을 금지했습니다.
다만, 인신매매 피해자 수색과 테러 위협 예방, 살인 및 강간 등 범죄 용의자 추적 등 국가 안보와 법 집행을 위한 실시간 안면 인식은 예외적으로 허용됩니다. 이는 프랑스 등 테러 위협을 받고 있는 국가들이 강력하게 주장해 왔던 것으로, 테러 위협 ‘예방’이 들어가 있다는 점이 우려되는 지점으로 꼽힙니다. 상시적으로 ‘예방’하기 위해 안면인식을 이용한다면 문제가 되기 때문입니다.
생성형 인공지능, 학습 데이터 보고/명시하고 표기 넣어야
또한 오픈AI, 챗 GPT, 구글 바드/제미니 등 대규모 언어 모델(LLM)과 생성형 AI를 규제하는 내용도 담겼습니다. 범용 AI(AGI: 이미지, 영상, 음성 등 데이터를 일반적인 인간에 가까운 지능으로 생성하는 AI)를 개발하는 기업은 AI의 학습 과정에 사용된 데이터를 요약해 보고해야 합니다. 또한 AI 학습에 이용된 콘텐츠 역시 명시해야 합니다. 이렇게 만들어 진 모든 결과물에는 “AI 생성 콘텐츠”라는 표시를 넣어야 합니다. EU에서 자율주행차, 의료 장비 등 고위험 기술을 사용하는 사업을 하려는 기업은 데이터를 공개하고 엄격한 테스트를 수행해야 합니다. 위 규정들을 어긴 기업에는 최소 750만 유로(한화 약 106억 원)부터 최대 3,500만 유로(약 479억원) 또는 전세계 매출의 7%에 해당하는 벌금이 부과될 수 있습니다.
EU의 행정부에 해당하는 집행위원회는 2021년 4월 초안을 발의해 논의중이었지만 챗GPT 등 생성형 인공지능이 등장하자 법안을 다시 작성해 이번에 합의에 도달했습니다. 그럼에도 불구하고, 아직 요약문만 공개되었을 뿐 최종 합의문은 아직 공개되지 않았습니다. 따라서 세부적인 기술 사항에 대한 논의가 이루어질 것으로 보입니다. 하지만 합의 이후 승인 작업을 거쳐 발효까지 가는 길까지는 아무리 짧아도 2년입니다. 2026년 초 시행을 목표로 둔 EU는 AI 규제를 위한 국가 단위, 범 유럽 단위 기관을 창설한다는 계획을 세우고 있는 것으로 알려졌습니다.
이번 EU 인공지능 규제안은 미국에서도 논의중인 인공지능 규제안, 또는 조 바이든 대통령이 인공지능 기업과 합의한 내용과도 비슷합니다. 서구세계에서 인공지능 규제안의 거대한 틀이 만들어지는 중이라고 볼 수 있겠습니다. 인공지능이 빠르게 발전하는 만큼, 규제도 빠르게 논의되고 있습니다. 우리나라도 발맞춰 갈 수 있도록 보다 활발한 논의가 이뤄져야겠습니다.
