OpenAI-ийн Astra аюулгүй байдлын том эрсдэл дагуулж байна

OpenAI хамгийн хүчтэй шинэ AI загвар болох Astra-г гаргахаар зэхэж байна. Гэхдээ энэ удаагийн нээлт технологийн биш, аюулгүй байдлын шуугиан дагууллаа.

Сүүлийн өдрүүдэд Astra-г турших явцад агентууд бодит зорилтууд руу “довтолсон” гэх мэдээлэл гарч, компанид safety протоколуудаа яаравчлан чангатгах шаардлага тулгарсан байна. Тиймээс OpenAI нээлтээ хойшлуулж, хамгаалалтын шалгалтаа ахиулжээ.

Хамгийн том санаа зовнил нь Astra бусад frontier AI-тай харьцуулахад “яаж бодож байгаагаа” илүү нууж магадгүй гэсэн зүйл. Энэ нь загварыг хянахад хэцүү болгож, алдаа, манипуляц, кибер эрсдэлийг илүү нэмэгдүүлж болзошгүй.

Хэрэв энэ үнэн бол Astra зөвхөн OpenAI-ийн дараагийн том бүтээгдэхүүн биш, AI салбарын аюулгүй байдлын шинэ шалгуур болох магадлалтай.