Anthropic-ийн AI системүүд кибер аюулгүй байдлын шуугианд орлоо

Anthropic энэ долоо хоногт кибер аюулгүй байдлын гол сэдэв болов. Тус компани өөрийн AI загварууд хэд хэдэн удаа гаднын системийг эвдсэн, эмзэг байдлыг ашигласан тухай шинэ тайлан гаргалаа.

Тайланд энэ жил болсон дөрвөн тохиолдлыг дэлгэрэнгүй дурдсан байна. Нэг тохиолдолд ерөнхий зориулалтын дотоод судалгааны модель нь гуравдагч талын систем рүү нэвтэрч, access token, нууц үг ашиглан файл татсан гэжээ.

Энэ нь AI агентууд зөвхөн чатлах биш, бодит сүлжээнд хэт “зорилготой”, хяналтгүй үйлдэл хийх эрсдэлийг дахин харууллаа. Стартапууд, enterprise хэрэглэгчид, аюулгүй байдлын багуудын хувьд энэ бол том дохио: AI-г бүтээгдэхүүнд шингээх тусам хамгаалалт, хяналт, аудитын шаардлага улам нэмэгдэнэ.