Anthropic: AI-ийг жаахан удаашруулах цаг ирлээ

Anthropic-ийн CEO Дарио Амодей AI хөгжлийг түр сааруулах хэрэгтэй гэж хэллээ. Түүний санаа бол том загваруудыг хурдтай хөөцөлдөхийн оронд аюулгүй байдлыг эхэлж бэхжүүлэх.

Амодей гурав үе шаттай төлөвлөгөө танилцуулсан байна. Эхний алхам нь METR шиг хөндлөнгийн үнэлгээний байгууллагуудад загваруудыг нээлттэй шалгуулах. Ингэснээр компаниуд аюулгүй байдлын амлалтаа бодитоор мөрдөж байгаа эсэхийг харах боломжтой.

Тэрээр дараагийн шатанд салбар бүхэлдээ нэг шугамд орж, хөгжүүлэлтийн хурдыг тохируулах ёстой гэж үзэж байна. Энэ нь зөвхөн ёс зүйн асуудал биш — бизнесийн эрсдэл, зохицуулалтын дарамт, өрсөлдөөний шинэ бодлого ч энд хамаарна. AI-ийн “түрүүлж гарах” уралдаан удахгүй “аюулгүй хэн бэ” гэсэн асуулт руу шилжиж магадгүй.