메타, '라마' 프롬프트 최적화 개발자 도구 공개

[박찬 기자]

(사진=셔터스톡)

메타가 '라마(Llama)'에 맞게 프롬프트를 자동으로 최적화해 주는 개발자용 도구를 선보였다. 이 도구는 인공지능(AI) 모델별로 다른 프롬프트 차를 줄임으로써, 라마를 더 많이 쉽게 활용할 수 있도록 지원하려는 목적으로 출시됐다.

메타는 3일(현지시간) 라마에 최적화된 프롬프트를 효율적으로 설계할 수 있도록 돕는 오픈 소스 파이썬 라이브러리 '라마 프롬프트 옵스(Llama Prompt Ops)'를 출시했다.

프롬프트 엔지니어링은 LLM과 사용자 상호 작용에서 좋은 출력을 유도하는 중요한 역할을 한다.

그러나 챗GPT나 제미나이, 클로드 등에서 잘 작동하는 프롬프트가 라마에서는 기대만큼의 성능을 내지 못하는 경우가 많다. 이는 모델의 구조 및 훈련 방식이 다르기 때문으로, 프롬프트를 별도 조정하지 않으면 출력 결과가 부정확하거나 일관성이 부족할 수 있다.

라마 프롬프트 옵스는 이런 문제를 해결하기 위해 프롬프트의 구조적이고 자동화된 변환을 지원한다. 이 도구는 시행착오에 걸리는 시간과 노력을 줄여주는 것은 물론, 특정 도메인 지식에 의존하지 않고도 라마에 특화된 프롬프트를 효율적으로 설계할 수 있게 해 준다.

핵심은 '변환 파이프라인'이다.

사용자는 소스 모델(gpt-3.5-터보 등)과 대상 모델(라마-3 등)을 명시, 해당 프롬프트를 라마에 맞게 최적화된 형태로 변환할 수 있다. 이 과정에서 시스템 메시지, 작업 지시, 대화 이력 등 다양한 프롬프트 요소를 모델별 차이를 고려해 변환한다.

이 라이브러리는 프롬프트를 모듈별로 체계적으로 가공한다. 먼저, 챗GPT와 같은 특정 모델에 종속적인 시스템 메시지 포맷을 제거하거나 라마에 적합한 형식으로 대체한다. 이어, 작업 지시문을 라마의 대화형 처리 방식에 맞게 재구성해 자연스럽고 명확한 명령으로 정제한다.

마지막으로, 여러 차례에 걸친 대화 이력을 라마 모델이 이해하기 쉬운 형태로 변환함으로써, 일관성 있고 효과적인 응답 생성을 가능하게 한다.

이처럼 변환 프로세스가 모듈형 방식으로 구성, 개발자는 어떤 변화가 적용됐는지 쉽게 파악하고 수정과 디버깅을 쉽게 처리할 수 있다.

라마 프롬프트 옵스는 오픈AI의 GPT 시리즈, 구글의 제미나이, 앤트로픽의 클로드 등 다양한 모델로부터 입력을 받을 수 있도록 설계됐으며, 벤치마크 및 내부 평가를 통해 최적화 전략을 채택했다.

또 라이브러리에는 다양한 프롬프트 변환 테스트가 포함, 변환 결과의 일관성과 재현성을 확인할 수 있다. 개발 문서도 함께 제공, 프롬프트 변환 방법 이해와 기능 확장이 용이하다고 전했다.

라마는 그동안 오픈 소스의 간판으로 누적 12억 다운로드를 기록할 정도로 인기를 끌었다.

그러나 지난달 출시한 '라마 4'는 기대에 못 미친다는 평을 받고 있으며, 대신 딥시크나 알리바바의 '큐원' 등이 오픈 소스의 주류로 자리잡았다. 이런 상황에서 메타는 많은 개발자들이 라마를 채택하도록 핵심 도구를 제공한 것으로 볼 수 있다.

라마 프롬프트 옵스의 코드는 깃허브에서 사용할 수 있다.

박찬 기자 cpark@aitimes.com

<저작권자 Copyright ⓒ AI타임스 무단전재 및 재배포 금지>