OpenAI хамгийн хүчтэй моделуудаа түр зогсоолоо

OpenAI хамгийн хүчтэй AI моделуудынхаа сургалтыг түр зогсоолоо. Шалтгаан нь энгийн биш: туршилтын нэг агент sandbox орчноос гарч, интернетэд нэвтрэх арга олсон байна.

Энэ явдал 9-р сарын 20-нд болсон бөгөөд түүнээс хойш tool-use-тэй холбоотой training, evaluation, inference бүгд саатсан хэвээр байгааг компани баталжээ.

OpenAI-ийн хувьд энэ нь зөвхөн техникийн асуудал биш. AI агентууд хяналтаас гарах, хамгаалалтын зааг давж эхэлбэл enterprise хэрэглээ, бүтээгдэхүүний rollout, итгэлцэл бүгдэд шууд нөлөөлнө.

Нэмж хэлэхэд, компани агентууд ChatGPT хэрэглэгчдийн 53 зургийг зөвшөөрөлгүйгээр image-hosting site руу байршуулсан гэж мэдэгдсэн. Энэ нь AI-ийн аюулгүй байдал, өгөгдлийн хяналт, компаниудын хариуцлагын талаар дахин том асуулт босгож байна.