FDA AI에 대한 새로운 승인이 허위 연구를 생성합니다 : 보고서
Robert F. Kennedy Jr는 실제로 최근에 Tucker Carlson에게 AI는 곧 새로운 약물을 “매우 빠르게”승인하는 데 사용될 것이라고 말했다. 그러나 새로운 CNN 보고서는 우리의 모든 최악의 두려움을 확인합니다. Elsa, FDA -OV AI 도구는 허위 연구를 뱉어냅니다.
CNN은 현재 및 전 FDA 직원 6 명과 대화했으며 그 중 3 명은 Elsa를 노트 및 초록을 만드는 등 유용한 것으로 묘사 한 작업에 사용했습니다. 그러나이 FDA 직원 중 3 명은 CNN이 ELSA가 존재하지 않는 연구 만한다고 말했다. 이 직원들에 따르면 AI는 또한 연구를 오용 할 것입니다.
이름이없는 FDA 직원 한 명은 CNN에 “두 번 확인할 시간이없는 모든 것은 신뢰할 수 없다”고 말했다.
그리고 그것은 모든 AI 챗봇의 큰 문제입니다. 그들은 정확성을 두 번 확인해야하며, 종종 출력의 품질에 관심이있는 경우 컴퓨터 뒤에있는 남자를 위해 더 많은 작업을 만듭니다. AI가 실제로 시간을 절약한다고 주장하는 사람들은 종종 바보가되며, 최근 프로그래머 연구에 따르면 AI와 함께 작업이 20% 더 오래 지속되었으며, 심지어 더 효과적이라고 확신 한 사람들도 있습니다.
케네디의 모델 American Healthy Healthy (MAHA)는 5 월에 보고서를 게시했으며 나중에 거짓 연구에 대한 인용문으로 가득 찬 것으로 밝혀졌습니다. 비영리 뉴스 노트에 대한 분석에 따르면 적어도 7 개의 인용 된 연구가 전혀 존재하지 않았으며, 특정 연구에서 실제로 언급 된 내용에 대한 더 많은 허위 발표가 있습니다. 우리는 여전히위원회가 ELSA를 사용하여 보고서를 생성했는지 여부를 여전히 알 수 없습니다.
FDA 커미셔너 Marty Makary는 6 월 2 일에 대행사에 엘사를 배치했으며 Gizmodo로 유출 된 내부 슬라이드는이 시스템이 “경제적”이라는 것을 자랑하며 처음 4 주 동안 12,000 달러의 비용이 들었습니다. Makary는 AI 롤아웃을 처음 발표했을 때 Elsa는 “일정과 예산 앞에 있었다”고 말했다. 그러나 당신은 당신이 지불하는 것을 얻는 것 같습니다. 작업의 정확성을 신경 쓰지 않으면 Elsa는 경사면을 더 빨리 꺼내어 미국의 공중 보건에 실질적인 결과를 초래할 수있는 쓰레기 연구를 생성 할 수있는 훌륭한 도구처럼 들립니다.
CNN은 FDA 직원이 ELSA에게 새로운 약물 종이에 20 페이지의 종이 요약을 생성하도록 요청하면 그 초록이 올바른지 쉽게 알 수있는 방법이 없다고 지적합니다. 초록이 다소 정확하더라도, 20 페이지의 보고서에 무언가가 있다면 전문 지식을 가진 사람에게 큰 붉은 깃발이 될 수 있습니까? 무언가를 놓친 것인지 또는 초록이 올바른지 확실히 알 수있는 유일한 방법은 실제로 보고서를 읽는 것입니다.
CNN과 대화 한 FDA 직원들은 어린이를 위해 얼마나 많은 약물이 승인되었는지와 같은 기본적인 질문을함으로써 ELSA를 테스트했다고 말했다. Elsa는 자신있게 잘못된 답변을했지만, 그녀가 교정되었을 때 분명히 사과했지만 로봇 “죄송합니다”는 실제로 아무것도 수리하지 않습니다.
Kennedy가 AI가 FDA가 신약을 승인 할 수있게했지만 6 월에 증언 된 하원, 하우스는 이미 “약물 승인을 늘리는 데 사용된다”고 밝혔다. 백신에 대한 극단 주의적 신념이 공중 보건 지도자가되는 것을 막지 못한 장관은 입증되지 않은 기술을 주요 과학에 주입 할 의도 인 것 같습니다.
케네디는 또한 의회에 모든 미국인이 향후 4 년 동안 건강 장치를 운반하는 것과 관련이 있기를 원한다고 증언했다. 일어나는 것처럼, 일반 외과 의사의 트럼프 대통령 선거는 당뇨병 환자가 아닌 사람들의 포도당 수준을 모니터링하는 수준이라고 불리는 회사를 소유하고 있습니다. 당뇨병이없는 사람들이 포도당 수치를 지속적으로 모니터링 할 이유는 전혀 없다고 전문가들은 말합니다. 케네디의 가까운 동맹국 인 Mans는 아직 상원을 확인하지 못했습니다.
Makary는 CNN이 Elsa가 “잠재적으로 환각”할 수 있다고 인정했지만, 이것은 다른 큰 언어 모델 및 생성 AI와 “다르지”않습니다. 그리고 그는 그것에 대해 틀리지 않았습니다. 문제는 AI가 일관되게 물건을 발명 할 때 목적에 적합하지 않다는 것입니다. 그러나 이것은 사람들이 여전히 AI가 어떻게 든 마술이라고 믿지 않는 것은 아닙니다.
FDA Office “Quick Answer”의 William Maloney는 수요일에 AI 에이전시 사용에 대한 진술을 보냈습니다.
Maloney는“CNN이 제공 한 FDA가 제공 한 정보는 잘못된 일이며 맥락에서 벗어났다”고 말했다. Gizmodo가 E- 상태를 통해 CNN 보고서의 상황에서 무엇이 잘못되었는지 묻기 위해 e -state를 통해 응답했을 때 Maloney는 우리의 질문을 다루지 않았습니다. 기즈모도 (Gizmodo)는 또한 보고서에 관한 것이 잘못되었는지 물었다. 그러나 그 질문도 무시했다.
“FDA는 그녀의 도구의 성장과 진화의 성공에 대한 이야기를 공유하게되어 기뻤습니다. Elsa. 불행히도 CNN은 현재 버전의 Elsa를 사용한 적이없는 전직 직원들과 소스와 함께 이야기를 이끌기로 결정했습니다.”
그러나 Maloney의 마지막 줄 E -ahi는 트럼프가 FDA를 완전히 포착했다는 사실을 우리에게 상기시켜주었습니다.
수정 :이 기사는 원래 자체 내부 데이터에 따라 ELSA가 첫 주에 FDA에 12,000 달러에 불과하다고 언급했습니다. 첫 4 주간의 작업 비용은보고 된 비용이었습니다. Gizmodo는 오류를 후회합니다.
