헬로티 –매일 만나는 첨단 산업, 경제, IT 소식

일반뉴스 오픈AI, 챗GPT 사용여부 판별하는 기술 개발 “공개는 아직“

자사 내에서 기술 공개 여부 두고 약 2년 동안 논쟁 해온 것으로 알려져 오픈AI가 과제나 논문 등에 학생들이 부정으로 챗GPT를 사용했는지 여부를 체크할 수 있는 기술을 개발했지만, 이를 공개하지 않고 있다고 월스트리트저널(WSJ)이 4일(현지시간) 보도했다. 소식통 등에 따르면 오픈AI는 약 1년간 이 기술의 출시 준비를 해왔으며, 한 내부 관계자는 "버튼만 누르면 된다"며 기술은 이미 개발된 상태라고 전했다. 이 기술은 이용자에게는 보이지 않지만 챗GPT가 생성한 콘텐츠에 워크마크가 표시돼 이를 식별하는 방식이다. 이를 토대로 전체 문서에 워터마크가 있을 가능성이 얼마나 되는지 점수를 제공한다. 이 기술은 99.9%의 정확도로 과제나 논문 작성 등에 사용된 콘텐츠가 챗GPT가 생성한 것인지를 식별해낸다고 이 매체는 전했다. 그러나 오픈AI는 이 기술의 공개 여부를 두고 약 2년 동안 내부적으로 논쟁 해왔으며, 오픈AI는 투명성에 대한 약속과 함께 더 많은 사용자 유치 사이에서 기술 공개 여부를 고심하고 있다고 WSJ은 보도했다. 한 설문조사에서 챗GPT를 자주 사용하는 이용자의 3분의 1은 이 부정행위 감지 기술이 도입되면 챗GPT를 사용하지 않을 수도

서재창 기자

2024-08-05 16:04

일반뉴스 C2PA 국내 최초 가입한 네이버 “안전한 AI 선도하는 기회“

글로벌 연합체인 C2PA, 구글·MS·인텔 등 90여 개 기업 참여 중 네이버가 글로벌 인공지능(AI) 워터마크 기술 표준을 구축한 '콘텐츠 출처 및 진위 확인을 위한 연합(C2PA)'에 국내 기업 최초로 가입하며 글로벌 AI 안전 리더십을 증명했다. 15일 ICT업계에 따르면, 네이버가 지난 13일 안전한 AI 생태계 구축을 위해 'C2PA(Coalition for Content Provenance and Authenticity)'에 가입한 것이 확인됐다. C2PA는 2021년 온라인 콘텐츠에 대한 신뢰 구축을 위해 설립된 글로벌 연합체로, 구글, 마이크로소프트(MS), 인텔 등 90여 개 기업이 회원으로 참여 중이다. C2PA는 워터마크 등 콘텐츠 출처 기술 표준을 개발해 글로벌 확산을 이끌고 있다. C2PA 기술 표준은 주로 AI가 생성한 이미지 식별을 비롯한 디지털 콘텐츠 출처 인증에 활용되고 있으며 가장 공신력 있는 기술 표준으로 인정받고 있다. 대화형 AI 챗봇 '챗GPT' 개발사 오픈 AI는 지난 2월부터 이미지 생성 AI 도구인 '달리3'(DALL-E 3)에 C2PA 워터마크 기술을 도입했다. 네이버는 AI 생성 콘텐츠의 악용 방지를 위해 C2

서재창 기자

2024-07-15 08:42