콕스웨이브, 구글 ‘리서치앳 코리아’ 연사 참가

김기정 대표, 환각 편견 차별・정보 유출 등
현재 AI 안전 과제 및 향후 과제 발표

콕스웨이브 김기정 대표, 구글 ‘리서치앳 코리아’ 연사 참가

AI 제품 분석 플랫폼 얼라인 AI(Align AI)의 운영사 콕스웨이브가 포시즌스 호텔 서울에서 개최된 구글의 ‘리서치앳(Research@) 코리아’에 연사로 참가했다고 28일 밝혔다.

리서치앳 코리아는 전 세계 연구자들을 대상으로 인공지능 관련 최신 연구를 공유하는 행사이다. 김경훈 구글 코리아 사장, 구글 리서치 마야 쿨리키 부사장이 참여했으며, 다수의 구글 AI 연구원이 참여하여 노트북 LLM, 제미나이, AI에이전트 프로젝트 등 연구사례를 발표했다.

김기정 콕스웨이브 대표는 국내 AI 연구사례 세션에 스타트업 대표로 참가하여 ‘AI 안정성 향상’이라는 주제로 발표를 진행했다. 김 대표는 얼라인 AI 플랫폼 내 발생한 실사례를 들어 AI 모델의 취약성 평가 와 잠재 위협 예방 방법을 공유했다. 얼라인 AI는 생성형 AI 기반 대화형 제품을 위한 분석 플랫폼으로 AI와 사용자 간의 대화 데이터를 분석할 뿐만 아니라 AI 한계점으로 알려진 환각 현상이나 개인정보 유출 사례 없이 제대로 기능을 수행하는지 판단하는 기능도 함께 제공한다.

콕스웨이브는 2021년 설립된 스타트업으로 생성형 AI 기술의 활용성 및 접근성을 높이기 위한 다양한 AI-Native 제품들을 선보여왔다. 현재 콕스웨이브가 주력하고 있는 생성형 AI 기반 대화형 제품을 위한 분석 플랫폼 ‘얼라인 AI’의 기술력과 시장 가능성을 인정받아 지난 1월, 투자 혹한기에도 불구하고 약 45억 원 규모의 시드 투자를 유치한 바 있다.

김 대표는 “이번 ‘리서치앳 코리아’에서 글로벌 AI 커뮤니티와 안정성에 대한 인사이트를 공유할 수 있어 뜻깊었다”라며 “앞으로도 콕스웨이브는 국내외 연구자들과 적극 협력하여 AI 안전성을 향상하고 글로벌 AI 생태계의 지속이 가능한 성장에 이바지하겠다”라고 말했다.

[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]