오픈AI, 로스앨러모스 국립연구소와 맞손…"AI 위험성 평가"

[AI리포터]

오픈AI가 미국 로스앨러모스 국립연구소와 파트너십을 체결했다. [사진: 셔터스톡]

[디지털투데이 AI리포터] 오픈AI가 미국 로스앨러모르 국립연구소(LANL)와 파트너십을 맺었다고 11일(현지시간) 온라인 매체 기가진이 전했다.

이번 파트너십은 실험실 환경에서 인공지능(AI)을 안전하게 사용할 수 있는 방법을 연구하기 위한 오픈AI의 사명을 반영하는 것이다. LANL은 AI 위험 기술 평가 그룹을 신설해 AI의 위험성을 평가하고 이해하는 데 도움을 줄 계획이다.

미라 무라티 오픈AI 최고기술책임자(CTO)는 "공공의 이익에 기여하고자 하는 민간 조직으로서 LANL와 생물과학의 잠재력을 연구하는 첫 파트너십을 발표하게 돼 기쁘다"라며 "이 파트너십은 AI 기술의 위험을 줄이면서 과학 연구를 진행한다는 우리의 사명에 대한 필연적인 진전을 보여준다"라고 말했다.

LANL의 정보 시스템 및 모델링 부문 부책임자인 닉 제너라스는 "AI는 과학 분야에서 큰 이익을 가져다줄 수 있는 강력한 도구이지만, 다른 신기술과 마찬가지로 위험도 존재한다. LANL의 AI 위험 기술 평가 그룹이 위험 평가와 이해를 촉진하는 데 도움을 줄 것"이라며 오픈AI와의 파트너십을 체결한 소감을 밝혔다.

아울러 LANL 측은 GPT-4가 생물학적 위협을 생성할 수 있는 정보를 제공하는 데 도움이 된다는 것을 발견했다고 설명했다. 이에 실험실 환경에서 멀티모달 프런티어 모델이 실제 생물학적 작업에 어떤 도움을 줄 수 있는지 정량화하고자 한다고 덧붙였다.

<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>