"직장 내 생성형 AI 활용 증가…기업 가이드라인, 윤리 교육은 부재"

세일즈포스 '직장 내 생성형 AI 활용 전망과 위험' 연구조사 결과

[디지털데일리 김보민 기자] #직장인 A씨는 사무실에 출근할 때마다 메일함을 열어보기가 두렵다. 해외 파트너사가 보낸 메일이 적으면 수십 개, 많으면 수백 개씩 쌓여있기 때문이다. 하나하나 정성 들여 답변하는 것도 고역이다. A씨는 메일 초안을 작성해주고 번역까지 완료해 주는 인공지능 조수(AI 어시스턴트) 기능을 켤 수밖에 없다.

전 세계 기업에서 생성형 AI 기능을 업무에 도입하는 사례가 늘어나고 있다. A씨처럼 반복적인 작업을 돕는 것은 물론, 결과물을 분석하고 창작물을 생성하는 작업까지 AI의 영역이 넓어지는 추세다.

다만 생성형 AI를 활용하는 방법과 관련해 적절한 교육을 받지 못한 직장인들도 다수인 것으로 나타났다. 기업 내 명확한 윤리 지침이 부재한 사례도 다수인 것으로 조사됐다.

21일 세일즈포스는 이러한 내용을 담은 '직장 내 생성형 AI 활용 전망과 위험' 연구조사를 발표했다. 이번 조사는 영국, 독일, 프랑스, 캐나다 등 전 세계 14개국 내 1만4000여명의 직장인들을 대상으로 실시됐다.

조사 결과, 직장인들은 생성형 AI가 업무 생산성에 중요한 역할을 하고 있다고 인식하면서도 기업으로부터 교육, 지도, 승인 없이 해당 기술을 활용하고 있는 것으로 나타났다.

세일즈포스에 따르면 현제 전 세계 직장인의 4분의 1 이상(28%)은 직장에서 생성형 AI를 사용하고 있다. 사용자 중 71%는 생성형 AI를 통해 업무 생산성이 높아졌다고 응답했고, 전체 응답자 중 42%는 생성형 AI 기술에 대한 숙련도가 승진 또는 커리어 발전에 긍정적인 영향을 줄 것으로 봤다.

응답자 절반에 달하는 47%는 생성형 AI를 적극적, 선도적으로 도입하는 기업에 매력을 느끼고 있었고, 50%는 생성형 AI 도입으로 취업 시장에서 경쟁이 치열해질 것으로 봤다.

그러나 직장 내 생성형 AI 영향력이 커지고 있음에도 불구하고 응답자들은 신뢰와 안전성 측면에서 위험 요소들이 존재하고 있다는 점에 공감했다. 직장 내 생성형 AI를 사용하고 있다고 답한 응답자 중 55%는 공식 승인되지 않은 기술을 활용한 경험이 있었다. 사용자의 64%는 생성형 AI로 도출한 작업물을 자신의 창작물로 활용한 경험이 있다고 답했다. 취업을 위해 본인의 생성형 AI 활용 능력을 과장할 의향이 있다고 답한 비율도 41%에 달했다.

특히 전체 응답자 중 79%는 기업 내 생성형 AI 활용에 대한 명확한 방침이 부재하다고 답했다. 69%는 생성형 AI에 관한 교육을 이수한 경험이 전혀 없다고 답했고, 71%는 생성형 AI 활용 윤리에 대한 교육을 받지 못했다고 했다. 안전성에 대한 교육을 받지 못한 비율 역시 69%로 컸다.

생성형 AI 활용 윤리를 위한 조건으로 응답자들은 ▲결과물에 대한 사실 확인 진행 ▲정확성이 검증된 툴만 사용 ▲승인된 프로그램만 사용 등의 항목을 꼽았다. 생성형 AI를 안전하게 활용하기 위한 조건으로는 ▲승인된 프로그램만 사용 ▲기밀 데이터 사용 금지 등을 꼽았다.

폴라 골드만 세일즈포스 최고 윤리 및 인도적 사용 최고책임자는 "생성형 AI의 잠재력을 최대한으로 실현하기 위해서는 기술 자체만큼 기술을 사용하는 직원들을 위한 투자가 병행되어야 한다"라며 "명확한 가이드라인과 교육을 통해 AI 활용의 위험 요소는 줄이고 잠재력과 혁신성을 높여야 한다"라고 말했다.

- Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지 -