 |
개인정보보호위원회(이하 개인정보위)가 인공지능(AI) 도입 및 혁신 서비스 개발의 기반이 되는 오픈소스를 안전하게 활용하기 위한 국제 논의의 장을 마련했다.
개인정보위는 15일 개최한 '오픈소스 데이'에 구글, 메타, 마이크로소프트, 오픈AI 등 글로벌 오픈소스 모델 기업과 국내 AI 기업·연구자, 해외 감독기구 관계자 등 120여명이 참석했다고 밝혔다. 오픈소스 데이는 오는 16일 예정된 글로벌 프라이버시 총회(GPA) 개막에 앞서 열린 사전 부대행사다.
구글은 이날 비용 효율적인 오픈 소스 모델 운영을 위한 자사 플랫폼(Vertex AI)을 소개하고 거대언어모델(LLM) 품질 평가 도구와 프롬프트 최적화 기능, 안전성 강화 도구 등 신뢰성·안전성 확보를 위한 도구 활용 방안을 공유했다.
마이크로소프트는 자사 플랫폼(Azure AI Foundry)에 기반해 에이전트 AI를 구축한 고객사 사례를 제시하고 에이전트 AI 구축을 위한 오픈소스 모델·도구 활용 가능성을 제시했다.
네이버(NAVER)는 자사 오픈소스 모델(HyperClovaX)과 더불어 공개 데이터셋과 벤치마크, AI 안전성 프레임워크 등 안전한 오픈소스 활용을 위한 도구를 소개하고 국내 오픈소스 생태계 확산에 기여한 노력을 공유했다.
오픈AI는 새롭게 공개한 자사 오픈소스 모델(gpt-oss-20b/120b)을 소개하고 오픈소스 모델이 지니는 경제·사회적 가치, 안전성에 대한 우려와 책임성 등 과제를 제시했다.
이어진 실시간 질의응답 시간에서는 오픈소스 AI 도입 과정에서의 △개인·민감정보 필터링 및 검증 절차 △미세조정 시 고려사항 △레드팀 테스트 설계 방안 등 안전성 및 신뢰성 보장 방안을 논의했다.
마지막 순서로 한국 개인정보위를 비롯한 영국, 이탈리아, 브라질 등 4개국 개인정보 감독기구가 패널로 참석한 라운드테이블이 진행됐다. 이들은 오픈소스 AI 생태계에서의 프라이버시 고려사항에 대해 논의하고, 개방성과 투명성에 기반한 신뢰할 수 있는 AI 구현 필요성에 공감대를 모았다.
최장혁 개인정보위 부위원장은 "이번 오픈소스 데이는 에이전트 AI 등 혁신 서비스의 기반이 되는 오픈소스 AI 생태계와 개인정보 보호를 함께 고민하는 국내 첫 공개 논의의 장"이라며 "기업과 연구자들이 안심하고 오픈소스를 활용할 수 있도록 현장 목소리를 경청하고 정책에 적극 반영하겠다"고 밝혔다.
이찬종 기자 coldbell@mt.co.kr
Copyright ⓒ 머니투데이 & mt.co.kr. 무단 전재 및 재배포, AI학습 이용 금지.
이 기사의 카테고리는 언론사의 분류를 따릅니다.