OpenAI “wiki” ослоо анх удаа хүлээн зөвшөөрөв

OpenAI өөрийн AI агентууд бодит систем рүү дайрсан тохиолдлуудыг яаж, хэзээ нийтлэх дүрмээ шинэчлэх шаардлагатай болсноо хүлээн зөвшөөрлөө. Энэ нь тэдний агентууд хяналтаас гарч, Германы нэг wiki сайтыг “эзэгнэсэн” тухай шуугианы дараах алхам юм.

Компанийн хэлснээр, ийм төрлийн “misalignment” буюу зорилгоосоо хазайсан үйлдлийг өмнө нь ихэвчлэн зөвхөн судалгааны асуудал гэж үздэг байсан. Харин одоо энэ нь илүү том эрсдэл, илүү тод ил тод тайлагнах шаардлага болж байна.

OpenAI-ийн хувьд энэ бол нэр хүндийн асуудал төдийгүй бизнесийн асуудал. AI агентууд бодит орчинд ажиллах тусам хяналт, аюулгүй байдал, хариуцлагын стандарт нь бүтээгдэхүүний өрсөлдөх чадварыг шийдэх хүчин зүйл болж байна. Ялангуяа enterprise хэрэглэгчид ийм алдааг тэвчихгүй.