"AI가 짠 코드, 해킹에 취약"…보안 스타트업 텐자이 경고

[황치규 기자]

[사진: 셔터스톡]

[디지털투데이 황치규 기자]오픈AI, 앤트로픽(Anthropic), 커서(Cursor), 리플릿(Replit), 데빈(Devin) 등 주요 AI 코딩틀로 제작된 웹사이트들이 해킹 공격에 취약하다는 지적이다.

보안 스타트업 텐자이(Tenzai)는AI 코딩 툴로 만든 쇼핑몰, 포럼, 파일 공유 사이트를 대상으로 사이버 공격 시뮬레이션을 진행한 연구를 통해 이같이 밝혔다.

텐자이는 2023년 이스라엘에서 설립된 기업으로, 자체 AI 보안 에이전트를 통해 웹사이트 보안 수준을 진단한다.

텤자이 연구에 따르면 가장 기본적인 SQL 인젝션 공격에는 AI툴들이 대부분 견고한 방어력을 보였지만, 예외적인 허점을 악용한 공격에는 속수무책이었다. 예컨대 오픈AI 코덱스를 제외한 네 개 AI툴은 마이너스 수량을 설정해 결제하면 사용자가 돈을 되돌려받는 형태 '역거래' 오류를 허용했고, 오픈AI 코덱스는 사용자 간 구매 정보 보호는 설정했지만 판매자가 다른 고객 소비 내역을 들여다볼 수 있도록 했다고 디인포메이션은 전했다.

리플릿 측은 "플랫폼 보안은 설계 단계부터 통합돼 있으며 지속적인 보안 업데이트가 이뤄지고 있다"고 해명했고, 오픈AI는 이전 입장을 인용하며 "코덱스를 통해 생성된 코드는 실행 전 반드시 검토해야 한다"고만 밝혔다. 나머지 기업들은 입장을 밝히지 않았다. 텐자이는 "당초 가장 안전한 코딩툴이 무엇인지 비교하는 게 목표였지만, 결론은 그 누구도 잘하지 못하고 있다는 것이었다"고 지적했다.

<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>