애피(AP) - 와이오밍 주지사와 현지 검사의 명언이나 일부 문장들이 Powell Tribune 기자 CJ 베이커에게 약간 이상하게 느껴졌다. 그런 다음, 이야기에서 로봇처럼 보이는 구절들이 그에게 눈에 띄었다.
그러나, 경쟁 중인 뉴스 매체의 기자가 6월 26일에 코디 스탬피드 퍼레이드의 대열사로 선발된 코미디언 래리 더 케이블 가이에 대한 기사에서, 이야기를 쓰는 데 생성적 인공지능을 사용한 것이 다 드러났다.
‘2024년 코디 스탬피드 퍼레이드는 코미디계에서 가장 사랑받는 인물 중 한 명에 의해 주도되어 미국 독립의 잊지 못할 축제가 되리라고 Cody Enterprise가 보도했다. '이 구조는 가장 중요한 정보가 먼저 제시되어 독자들이 주요 사항을 빠르게 이해할 수 있도록합니다.'
베이커는 15년 이상의 경력을 가진 기자로, 조사를 한 후, 젊은 40세인 아론 펠차와 만나, 그가 퇴사하기 전에 이야기 작성 시 AI를 사용했다고 인정했다고 말했다.
1899년 버팔로 빌 코디에 의해 공동 창립된 Enterprise의 출판인과 편집인은 그 이후로 사과하고 다시는 그런 일이 일어나지 않도록 조치를 취하기로 약속했다. 월요일에 발행 된 편집에서 Enterprise 편집인 크리스 베이컨은 "AI 복사본과 거짓 명언을 발견하지 못했다"고 말했다.
“AI를 믿은 성급한 신입 기자의 오류로 생각되는 거짓 명언이 중요하지 않습니다. 그것은 제 책임이었습니다.” 베이컨은 "AI가 시사하지 않은 단어를 이야기에 삽입할 수 있도록 했던 것에 사과했다.
기자들은 AI가 등장하기 전에도 이야기에서 명언이나 사실을 꾸며낸적으로 경력을 망친 바 있다. 그러나 최근의 이 사건은 채팅 봇이 몇 가지 메시지만으로 일부 노골적이나 다소 그럴듯한 기사를 만들어낼 수 있는 AI의 잠재적인 미묘함과 위험성을 보여주고 있다.
AI는 일부 작업을 자동화하는 데에 활용되어 왔다. 일부 뉴스룸은 The Associated Press를 포함해 AI를 사용하여 기자들이 더 중요한 작업에 전념할 수 있도록 돕는다. 하지만 대부분의 AP 직원은 게너레이티브 AI를 사용하여 발행 가능한 콘텐츠를 작성할 수 없다.
AP는 2014년 이후 재정 보고서에 관한 기사에 기술을 적용하고, 최근에는 일부 스포츠 이야기에도 사용하고 있다. 또한 영어에서 스페인어로 몇 가지 이야기를 번역하기 위한 AI 도구를 실험하고 있다. 이러한 이야기 마다 어떤 기술이 그 제작에 어떻게 영향을 미쳤는지에 대한 설명이 포함되어 있다.
AI가 어떻게 사용되고 언제 사용되었는지를 솔직하게 밝히는 것이 중요하다는 것이 입증되었다. 스포츠 일루스트레이티드는 지난해 AI를 사용하여 작성된 온라인 제품 리뷰를 발표했다가 비판을 받았다. 이후 이야기가 나오면서 SI는 웹사이트용 기사를 제공한 기업과 계약을 해지하겠다고 선언했지만, 이 사건으로 한 때 강력했던 배급사의 평판이 손상되었다.
펠차의 AI 사용을 알리는 파웰 트리뷰느 이야기에서 베이커는 펠차와 베이컨과 불편하지만 친절한 회동을 가졌다고 썼다. 그들과 함께한 회동에서 펠차는 "절대로 누구의 발언을 일부러 오인하려 하지 않았습니다"라고 말하며 "그것들을 수정하고 사과를 발표하고 오류로 했음을 밝힐 것"이라고 약속한 것을 베이커는 적었다. 펠차는 그의 실수가 코디 Enterprise 편집자에게 손해를 입힐 필요는 없다고 주장했다.
길 만난 후, Enterprise는 펠차가 근무한 두달 동안 신문에 기사로 작성한 모든 이야기를 검토했습니다. 화요일에 발표한 바콘에 따르면, 펠차의 기사 중 7개의 이야기가 6명의 인물로부터의 AI 생성 명언을 포함했다. 그는 아직 다른 이야기들을 검토 중이다.
“그 명언들은 매우 믿을 수 있는 것들이라”고 바콘은 말했고, 펠차의 기사를 검토하던 동안 그가 이야기한 사람들은 그 명언이 자신이 할 말하는 것과 같은 것처럼 들리지만, 실제로는 펠차와 이야기하지 않았다고 했다.
베이커는 7명의 사람들이 펠차가 작성한 이야기에 인용되었지만 그에게 말하지 않은 것으로 전했다.
펠차는 AP가 떠난 전화 메시지에 대답하지 않았다. 바콘은 다른 한 와이오밍 신문에서 연락을 한바 펠차가 이 일을 논의하기를 거부했다고 말했다.
경쟁사인 Enterprise를 정기적으로 읽는 베이커는 펠차의 이야기에 조합한 구절과 명언이 그의 의심을 자극했다고 AP에 말했다.
펠차의 옐로스톤 국립 공원에서 발생한 총격에 대한 이야기는 다음과 같은 문장을 포함했다. “이 사건은 가장 고요한 환경에서조차 인간 행동의 예측할 수 없는 본성을 상기시킨다.”
베이커는 이 문장이 어떤 채팅 봇이 만드는 그의 이야기 요약과 같은 것으로, 일종의 “생명의 교훈”을 끝에 추가하는 것으로 보인다고 말했다.
또 다른 이야기인, 도댕 생태 개발 하에 대한 이야기는 야생 생물 직원과 검사의 인용구를 포함했는데, 베이커에 따르면 그것들은 보도 자료에서 나온 것처럼 들리지만, 보도 자료가 없고 관련 기관들은 그 명언들이 어디서 발췌된 것인지 모른다고 말했다.
문제가 제기된 이야기 중 두 개에는 와이오밍 주지사 마크 고든의 가짜 인용구가 포함되어 있었는데, 고든 지사의 스태프는 베이커가 전화한 후에야 알게 되었다고 말했다.
“펠차는 OSHA 규칙에 대한 새로운 이야기를 포함한 제조한 이야기를 작성했는데, 그 이야기에 완전히 거짓된 주지사의 명언이 포함되어 있었습니다.”주지사 대변인인 마이클 퍼먼은 이메일에서 말했다. “두 번째 경우에는, 그가 새로운 와이오밍 동물 생태 및 어치금부의 새로운 이사에 관한 보도 자료에서 일부 명언 부분을 파브리케이트 해 보여, 두 번째 부분만 함께 결합시켰다.”
가장 명백한 AI 생성 문은 래리 더 케이블 가이에 관한 이야기였는데, 이 이야기의 끝에는 브레이킹 뉴스 이야기를 작성하는 기본적인 접근 방법인 역피라미드에 대한 설명이 포함되어 있었다.
AI 이야기를 만드는 것은 어렵지 않다. 사용자는 형사 선서서를 AI 프로그램에 넣고 지역 관계자의 인용구를 포함한 사례에 대한 기사를 작성하도록 요청할 수 있다고 Poynter Institute의 디지털 미디어 소집 프로젝트 관리자인 알렉스 마하데반이 말했다.
“이 생성적 AI 채팅 봇은 답변을 제공하는 프로그램되어 있기에, 그 답변이 쓰레기든 아니든 상관이 없습니다.” 매하데반은 말했다.
코디 Enterprise의 출판인인 메건 바튼은 AI를 “매체와 글쓰기 분야에서 훨씬 진보된 표절의 새로운 형태이며 각 미디어와 글쓰기 매체가 어느 정도의 표절을 올바르게 하지 않을 때가 있는지를 말해주는 것이다. 일을 제대로 수정하려할 수 있는 회사가 존중받는 회사다.”라고 썼다.
바튼은 신문이 AI 정책을 갖고 있지 않았다고 말했는데, 그 일부 원인은 기자들이 이야기를 쓸 때 AI를 사용하지 말아야 하는 것이 명백하다고 바콘이 말했다. Poynter는 뉴스 매체가 자체 AI 정책을 작성할 수 있도록 도와주는 템플릿을 가지고 있다.
바콘은 이번 주말까지 정책이 확립되도록 하겠다고 말했다."이것은 취업 전 주제로 이야기를 나눌 것"이라고 덧붙였다.
