레벨 B1 – 중급CEFR B1
3 분
151 단어
예일 경영대 연구진은 생성형 AI가 단순히 승리한 제목만 학습하면 왜곡된, 즉 낚시성 제목을 만들 위험이 있다고 지적했습니다. 전통적 관행인 A/B 테스트는 서로 다른 제목을 다른 독자 집단에 보여 어느 쪽이 더 많은 클릭을 얻는지 확인합니다. 그러나 승리한 제목만으로 학습하면 모델이 '충격적' 같은 피상적 단어를 악용할 수 있습니다.
연구진(Tong Wang, K. Sudhir, Hengguang Zhou)은 한 제목이 다른 제목보다 더 매력적인 이유에 대한 경쟁 가설을 생성하고, 그 가설들을 데이터 전반에서 검증해 소수의 검증된 설명을 추출하는 언어 모델을 만들었습니다. 연구팀은 Upworthy의 기사와 제목 데이터를 사용해 모델에 일부 데이터와 클릭률을 입력하고 가설을 제시하게 했습니다. 평가에는 Upworthy의 A/B 결과를 바탕으로 한 사전 학습된 평가 모델이 사용되었습니다.
연구진은 이 검증된 가설로 LLM을 미세조정해 피상적 단서를 악용하지 않고 올바른 이유로 참여도를 높이는 제목을 만들게 했습니다. 약 150명 대상 실험에서 새 모델은 사람과 표준 AI보다 더 자주 선택되었고, 분석 결과 표준 AI는 선정적 표현에 더 의존하는 경향이 있었습니다.
어려운 단어·표현
- 생성형 — 새로운 내용을 자동으로 만들어내는 것
- 낚시성 — 독자의 관심만 끌려고 과장하는 표현
- A/B 테스트 — 두 가지를 비교해 더 나은 것을 찾는 검사
- 피상적 — 겉으로만 보이는 간단한 특징이나 표현
- 악용하다 — 나쁜 목적이나 잘못된 방식으로 이용하다악용할, 악용하지
- 가설 — 관찰을 설명하려는 임시적인 생각의 형태가설을, 가설들을
- 검증하다 — 어떤 것이 옳은지 사실로 확인하다검증해, 검증된
- 미세조정하다 — 작은 부분을 조절해 성능을 더 좋게 하다미세조정해
팁: 글에서 강조된 단어에 마우스를 올리거나 포커스/탭하면, 읽거나 들으면서 바로 간단한 뜻을 볼 수 있습니다.
토론 질문
- A/B 테스트로 제목을 평가하는 방법에 대해 어떻게 생각하나요? 간단히 이유를 말해보세요.
- 낚시성 제목 대신 올바른 이유로 참여도를 높이려면 제목에 어떤 요소를 넣어야 할까요? 한두 가지 예를 들어보세요.
- AI가 선정적 표현이나 피상적 단서를 악용하지 않게 하려면 어떤 기준이나 방법이 필요하다고 생각하나요?
