Anthropic에서 유출된 AI 안전 법안은 50명 이상의 부상 또는 10억 달러의 위험이 있는 경우에만 정부 개입이 필요함

폴리티코최근 Claude LLM 뒤에 있는 회사인 Anthropic이 제안한 AI 안전 법안의 기밀 초안을 보고했습니다. 톰의 하드웨어). 미국 국회의원들에게 제출된 이 법안은 "10억 달러 이상의 피해가 발생하거나 50명 이상이 사망하거나 심각한 부상을 입을 수 있는 예측 가능하고 임박한 위험이 있는 경우에만 정부가 특정 AI 모델을 단속하도록 허용합니다. 위험은 생물학적 무기의 생성 또는 출시, 모델이 개발자의 통제를 회피하거나 사이버 공격에서 비롯되어야 합니다."

그 기사는 이러한 제안과 다음에서 사용된 제안 사이의 유사점을 지적했습니다. 캘리포니아의 AI 법안, 회사 대변인의 인용문을 공유합니다. "이 법안은 우리가 6월부터 연방 및 주 의원들과 함께 옹호해 온 Anthropic의 고급 AI 프레임워크에 설명된 제안을 대표합니다." 그들은 "의회가 조치를 취해야 한다고 믿는 합리적인 정책"이라고 말했습니다.

특히, 그것은 가정되었다 AI 거물들은 이론적이고 광범위한 재앙에 대한 경고를 활용하여 AI가 이미 하고 있는 피해를 해결하기 위해 거의 노력하지 않으면서 자체 규제 및 확장에 대한 동의를 생성합니다. 이 웹사이트가 중심으로 돌아가는 산업과 같은 산업 그리고 인간 심리학과 직접적으로 관련).

올해 초 Anthropic의 안전 책임자는 "세계가 위험에 빠졌습니다"라는 메모를 남기고 종료—그리고 바로 지난주에 OpenAI가 비난을 받았습니다. 미국 8개 주의 법무장관에 의해 이익을 위해 자체 안전 경고를 무시합니다. Anthropic이 여기에서 제안한 것과 같은 규정은 기술 회사에 항복하는 것처럼 보이게 하면서 자신의 조건에 따라서만 제한을 가할 수 있습니다. AI에 대한 자세한 내용은 다음을 확인하세요. 기술 거물들이 지금까지 말한 가장 멍청한 말들에 대한 우리의 총계.

---

원문 출처:[공식 원문 출처 바로가기] (PC Gamer)

본 게시글은 임의 요약 없이 게임사/발행처(PC Gamer)의 공식 발표 원문(팩트) 그대로 제공됩니다.