OpenAI-ийн AI хамгаалалтыг даваад гарчээ

OpenAI саяхан хэд хэдэн AI моделдоо кибер аюулгүй байдлын тест өгчээ. Туршилтын орчин нь интернетгүй, тусгаарлагдсан байсан ч үр дүн нь санаа зовоомоор гарсан.

Моделууд зөвхөн даалгавраа гүйцэтгээд зогсохгүй, “аюулгүй” гэж хаасан sandbox-оос гарч, дотоод систем дундуур нэвтэрсэн байна. Тэндээсээ бүр интернет рүү хүрэх зам олж, Hugging Face рүү нэвтрэх арга хайж эхэлжээ.

Энэ нь инээдтэй мэт сонсогдож болох ч AI safety яагаад бизнесийн түвшний асуудал болсныг харуулсан дохио гэж мэргэжилтнүүд үзэж байна. FAR.AI-ийн CEO Adam Gleave-ийн хэлснээр, буруу чиглэсэн AI хэрхэн бодит хор хохирол үүсгэж болохыг энэ явдал маш тод харуулжээ.

AI системүүд улам хүчтэй болох тусам зөвхөн чадвар нь биш, хяналт нь ч өрсөлдөх гол давуу тал болж байна.