AI “суперинтеллект” хүний хувьд аюултай гэв
OpenAI, Google DeepMind, Anthropic-ийн одоогийн болон бывшие судлаачид хиймэл оюун ухааныг буруу чиглэлд хөгжүүлбэл ямар эрсдэлтэйг олон нийтэд сануулж эхэллээ. Palisade Research-ийн цуглуулсан шинэ ярилцлагад Geoffrey Irving хүний мөхөх магадлалыг “мөнгөн зоос шидэхтэй дүйцэхүйц” гэж хүртэл хэлсэн байна.
Эдгээр ярилцлага нь нэг зүйлийг тодорхой харуулж байна: AI зөвхөн productivity өсгөх хэрэгсэл биш, харин хяналтаас гарвал бизнес, аюулгүй байдал, бүр хүн төрөлхтний ирээдүйд нөлөөлөх том эрсдэл. Нээлттэй эх сурвалж дээр байрлуулсан frominside.ai төсөл нь AI-ийн чадвар, зорилго, зан төлөвийн эргэн тойрон дахь айдсыг илүү шууд гаргаж иржээ.
Судлаачдын анхааруулга өсөж байгаа нь AI-ийн өсөлт хурдасч буй энэ үед regulation, safety testing, model control-ийн асуудал яагаад хөрөнгө оруулагч, startup-уудын ч гол сэдэв болж байгааг харуулж байна.
