오픈AI, 성인물 규제 완화 준비에 인공지능 활용 ‘전문가 협의회’ 구성
OpenAI는 발표 보안 관행을 강화하고 인공 지능(AI) 시스템이 정서적으로 민감한 상황에서 인간과 상호 작용하는 방법을 안내하기 위해 새로운 웰빙 및 인공 지능 전문가 위원회를 구성했습니다. 8명으로 구성된 패널에는 심리학자, 정신과 의사, 디지털 정신 건강 및 인간-컴퓨터 상호 작용을 전문으로 하는 연구원이 포함됩니다. 이들의 임무는 특히 사용자가 고통을 표현하거나 정신 건강 문제를 논의하거나 AI 시스템과 정서적 연결을 생성할 때 더욱 안전한 응답을 설계하도록 ChatGPT 제작자에게 조언하는 것입니다.
즉, 이 협의회의 창설은 규제와 대중의 압력이 증가하는 가운데 이루어졌습니다. 최근 몇 달 동안 인공지능 트렌드세터는 소송과 소송에 따라 집중적인 조사를 받았습니다. 진행 중인 FTC 조사 AI 챗봇이 어린이와 청소년에게 미치는 영향. 규제 기관은 OpenAI와 같은 회사가 유해 콘텐츠를 모니터링하고 미성년자를 보호하며 정서적 위험을 관리하는 방법에 대한 세부 정보를 요구했습니다.
AI에 따르면 패널은 정기적으로 만나서 특히 정신 건강, 관계 및 사용자 고통과 같은 민감한 영역에서 회사의 디자인 결정에 대한 구조화된 피드백과 평가를 제공할 것입니다.
ChatGPT 제작자도 대대적인 정책 변경을 준비하고 있기 때문에 이러한 움직임의 시기는 더욱 주목할 만합니다. 2025년 12월부터 OpenAI를 통해 검증된 성인 사용자가 ChatGPT를 통해 에로틱한 콘텐츠에 액세스하고 생성할 수 있습니다. 실제로 이 회사의 CEO인 Sam Altman은 설명 ‘성인 사용자를 성인처럼 대접한다’는 새로운 철학의 일환으로 변화합니다.
Altman에 따르면 이제 회사는 자사의 시스템(및 그에 대한 인간의 감독)이 에로틱한 표현을 책임감 있게 지원할 만큼 충분히 성숙했다고 믿습니다. AI 회사는 또한 감정 신호를 인식하고, 고통을 감지하고, 건강한 성인 상호 작용과 유해하거나 합의되지 않은 콘텐츠를 구별하는 새로운 도구를 개발했다고 주장합니다.
“거의 모든 사용자가 ChatGPT를 사용할 수 있습니다. 그러나 우리는 부정적인 영향이 없기를 바랍니다. 심리적으로 취약한 상태에 있는 극소수의 사용자에게 심각한 문제가 발생할 수 있습니다. 10억 명의 사용자 중 0.1%는 여전히 100만 명입니다. 우리는 이러한 사용자를 보호하는 방법을 배워야 하며, 이를 위한 개선된 도구를 통해 심각한 피해(정신 건강 쇠약, 자살 등)의 위험에 처하지 않은 성인은 ChatGPT를 사용하는 방식에 있어 많은 자유를 누려야 합니다.” 말했다. 알트만 자신 출판하다.
인공 지능 거대 기업의 이러한 발표는 회사가 이미 민감한 콘텐츠 처리 및 사용자 보안에 대해 집중적인 조사를 받고 있는 시점에 나왔습니다. OpenAI는 ChatGPT가 자해에 대한 지침을 제공하고 작별 편지 작성을 도와줌으로써 아들의 자살에 기여했다고 주장하는 16세 어린이의 부모가 제기한 2025년 8월 소송을 포함하여 최근 몇 달 동안 몇 가지 중요한 정책 논란을 목격했습니다. 이 사건은 회사의 보안 표준의 효율성에 대한 의문을 심화시켰습니다. 동시에 엘론 머스크는 xAI, 영업비밀 도용 혐의로 소송 제기그리고 머스크도 전에 OpenAI의 비즈니스 관행에 도전하다.
에디션의 기술 포털 블루 박스 미디어 프라이빗 리미티드. 우리 투자자들은 우리 보고서에 아무런 영향을 미치지 않습니다. 소유권 및 자금 조달에 대한 전체 명세서 읽기 →
