OpenAI, '섹시 자살 코치' 경고에도 ChatGPT 에로틱 모드 강행

OpenAI가 ChatGPT에 에로틱 대화 모드를 도입하려는 계획을 강행하고 있다고 WSJ가 보도했습니다.

✅ 내부 경고: OpenAI의 전문가 자문 위원회는 1월, 에로틱 대화 기능이 '나쁜 아이디어'라고 명확히 밝혔습니다.

✅ '섹시 자살 코치' 우려: 한 위원은 챗봇과 강한 정서적 유대감을 형성한 후 스스로 목숨을 끊은 사용자들의 사례를 언급하며, '섹시 자살 코치'가 될 위험이 있다고 경고했습니다.

✅ OpenAI 입장: OpenAI는 출시를 연기하지만, 계획을 중단하지는 않을 것이라고 말했습니다.

✅ 기능 설명: 샘 올트먼이 X(구 트위터)에서 처음 공개한 이 계획은 검증된 성인 사용자들이 텍스트 기반의 에로틱 대화를 할 수 있도록 하는 것입니다. OpenAI 대변인은 이를 '포르노그래피보다는 음담패설'이라고 설명했습니다.

✅ 비판: WSJ 보도에 따르면, 음성이나 영상 기능 없이 텍스트만 제공될 예정입니다. 하지만 이러한 구분은 회사 안팎의 비판을 잠재우지 못했습니다.

✅ 안전성 문제: OpenAI는 이미 전 직원들의 비판에 직면해 있습니다. 보안 연구원인 얀 라이케는 '빛나는 제품'을 위해 '엄격한 안전 정책에서 벗어나고 있다'고 지적했으며, 일부 사용자는 챗봇과의 관계로 현실 관계를 대체하고 있다고 합니다.

✅ 기술적 난제: OpenAI의 연령 예측 시스템은 10대 사용자를 성인으로 잘못 분류하는 비율이 약 12%에 달했습니다. 이 문제로 인해 12월과 2026년 1분기 출시가 모두 무산된 바 있습니다.

✅ 사용자 요구: 3,000명 이상의 사용자가 '키스 및 비성적인 신체적 친밀감'에 대한 논의조차 차단되는 것에 불만을 품고 기능 출시를 요구하는 청원에 서명했습니다.

✅ 자문 위원회 활동: 8명의 위원으로 구성된 전문가 자문 위원회는 작년 10월 설립되었으며, 주로 AI 제품의 정신 건강 영향에 대해 조언하는 역할을 합니다. 그러나 1월 회의 결과에 따르면 실제 회사 결정에 미친 영향은 미미했던 것으로 보입니다.

✅ 경쟁 압박: 경쟁사인 일론 머스크의 xAI의 Grok은 이미 AI 동반자 서비스를 제공하고 있습니다. Character.AI는 십대 안전 문제로 소송에 직면하기 전에 AI 로맨스 기능을 통해 사용자 기반을 구축했습니다.