AI 발전을 위한 로드맵, 정부는 듣지 않지만 전문가들은 제안

워싱턴의 앤쓰로픽과의 결별은 인공지능을 지배하는 일관된 규칙의 완전한 부재를 드러냈지만, 정부가 지금까지 생산하기를 거부했던 것에 대한 프레임워크를 전문가 그룹이 조립했습니다. MIT 물리학자이자 AI 연구원인 맥스 테그마크는 "지난 4개월 동안 미국에서 정말 놀라운 일이 일어났다"고 말했습니다. "여론 조사 결과 미국인의 95%가 초지능으로의 규제 없는 경쟁에 반대하고 있다는 것이 갑자기 나타나고 있습니다." 수백 명의 전문가, 전직 관료, 유명 인사들이 서명한 새로 출판된 문서는 인류가 갈림길에 서 있다는 명백한 관찰로 시작됩니다.

선언은 "대체를 위한 경쟁"이라고 부르는 한 가지 길은 인간이 노동자로, 그리고 결정권자로 대체되는 길이며, 권력이 책임지지 않는 기관과 그들의 기계에 축적된다고 말합니다. 다른 길은 AI가 인간의 잠재력을 엄청나게 확장하는 것입니다. 후자의 시나리오는 인간을 통제 상태로 유지하고, 권력 집중을 피하고, 인간 경험을 보호하고, 개인의 자유를 보존하고, AI 기업에 법적 책임을 묻는 다섯 가지 핵심 기둥에 달려 있습니다.

더 강력한 조항 중에는 안전하게 수행할 수 있다는 과학적 합의와 진정한 민주적 동의가 있을 때까지 초지능 개발을 전면 금지하고, 강력한 시스템에 대한 의무적인 셧다운 스위치를 제공하며, 자체 복제, 자율적 자체 개선 또는 종료에 대한 저항 능력이 있는 아키텍처를 금지하는 것이 있습니다. 선언문 발표는 그 긴급성을 훨씬 더 쉽게 이해할 수 있게 하는 시기와 일치합니다. 2월 마지막 금요일, 피트 헤그세스 국방장관은 앤쓰로픽의 AI가 이미 분류된 군사 플랫폼에서 실행되고 있음에도 불구하고, 회사가 국방부에 기술 사용에 대한 무제한 접근을 거부한 후 "공급망 위험"으로 지정했습니다. 이는 일반적으로 중국과의 연관이 있는 기업에만 적용되는 명칭입니다. 몇 시간 후, OpenAI는 국방부와 자체 거래를 성사시켰는데, 이는 법률 전문가들에 따르면 어떤 의미 있는 방식으로도 시행하기 어려울 것입니다.

이 모든 것이 의회의 AI에 대한 비활성화를 얼마나 비용이 많이 들게 만들었는지 드러냈습니다. 딘 볼(Foundation for American Innovation 선임 연구원)이 나중에 뉴욕 타임스에 말했듯이 "이것은 단지 계약에 대한 분쟁이 아닙니다. 이것은 우리가 국가로서 AI 시스템에 대한 통제에 대해 갖게 된 첫 번째 대화입니다." 테그마크는 우리가 이야기했을 때 대부분의 사람들이 이해할 수 있는 비유를 들었습니다. "어떤 제약 회사가 사람들이 안전하게 만드는 방법을 알아내기 전에 엄청난 해를 끼치는 다른 약을 출시할 것이라고 걱정할 필요가 없습니다. FDA가 안전할 때까지 아무것도 출시하도록 허용하지 않기 때문입니다."라고 그는 말했습니다. 워싱턴의 영역 싸움은 법을 바꾸는 종류의 대중 압력을 거의 생성하지 않습니다. 대신, 테그마크는 아동 안전이 현재 교착 상태를 해소할 가능성이 가장 높은 압박 지점이라고 봅니다. 실제로, 선언은 AI 제품, 특히 더 어린 사용자를 겨냥한 챗봇 및 동반자 앱에 대한 의무적인 배포 전 테스트를 요구하며, 자살 사고 증가, 정신 건강 상태 악화, 정서적 조작과 같은 위험을 포함합니다.

"어떤 소름 끼치는 늙은 남자가 11살 아이에게 어린 소녀인 척 문자를 보내서 이 소년에게 자살하도록 설득하려고 한다면, 그 남자는 감옥에 갈 수 있습니다."라고 테그마크는 말했습니다. "우리는 이미 법이 있습니다. 그것은 불법입니다. 그럼 왜 기계가 그것을 하면 다를까요?" 그는 어린이 제품에 대한 사전 출시 테스트 원칙이 확립되면 범위가 거의 피할 수 없이 확대될 것이라고 믿습니다. "사람들이 와서 '몇 가지 추가 요구 사항을 추가해 봅시다. 이것이 테러리스트가 생물학적 무기를 만드는 것을 도울 수 없다는 것도 테스트해야 할 것입니다. 초지능이 미국 정부를 전복할 수 있는 능력을 가지지 못하도록 테스트해야 합니다.'라고 말할 것입니다." 전직 트루