오픈AI, LLM 생성 형식 불일치 문제 해결했다

[AI리포터]

오픈AI [사진: 셔터스톡]

[디지털투데이 AI리포터] 오픈AI가 대규모언어모델(LLM)이 호환되지 않는 형식을 생성하는 문제를 해결하기 위해 '구조화된 출력'(Structured Outputs)라는 새로운 기능을 출시했다.

12일(현지시간) 대만 IT홈에 따르면 제이슨(JSON)은 자바스크립트 객체를 표현하기 위한 일반적인 표준 형식으로, LLM은 JSON 형식을 준수하는 답변을 생성해야 한다. 문제는 LLM이 형식화되지 않은 답변을 제공하는 경향이 있다는 것이다.

이러한 문제점을 해결하기 위해 오픈AI는 API에 구조화된 출력을 추가해 모델에서 생성된 답변이 개발자가 요구하는 JSON 구조와 정확히 일치하도록 했다. 오픈AI API는 2가지 구조화된 출력 사용 사례를 제공하는데, 하나는 도구를 지원하는 모든 모델에 적용되는 기능 호출에 대한 것이고, 다른 하나는 구조화된 방식으로 사용자에게 응답하는 시나리오를 위한 것이다.

이 새로운 기능은 필요한 데이터를 가져오기 위한 웹 크롤러와 비구조화된 데이터에서 구조화된 데이터를 추출하고 사용자 질문에 답변하는 도구를 만드는 데 사용될 수 있으며, 데이터 처리 시나리오에서 매우 유용할 수 있다는 설명이다.

<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>