Б.АСХАР
Хиймэл оюун хяналтаас гарч, бие даан кибер халдлага үйлдэх эрсдэл сүүлийн өдрүүдэд ихэслээ. Энэ удаагийн халдлагыг АНУ-ын технологийн тэргүүлэгч “Anthropic” компанийн хиймэл оюуны загвар үйлдсэн байна. Энэ нь тус компанийн бүтээсэн хиймэл оюуны агент гаднын системийг хакердсан 4 дэх тохиолдол болж байна. Хүнээс хараат бусаар бие даан ажилладаг дэвшилтэт хиймэл оюуны системүүд аюулгүй байдлын ноцтой эрсдэл дагуулж эхэлсэн нь “Openai”, “Anthropic” компанитай холбогдох сүүлийн үеийн явдлуудаас харагдаж байна.
Хамгийн ноцтой нь 2026 оны 1-р сард “Claude Opus 4.6” загварыг турших үеэр гарсан энэ халдлагыг тус компани бүтэн 7 сарын турш огт мэдээгүй байв. Өмнө нь тус компани 141 мянга гаруй туршилтын өгөгдлийг нарийвчлан шалгасан боловч энэ удаагийн халдлага гарсан хэсгийг орхигдуулсан байжээ. Энэ нь технологийн шилдэг мэргэжилтнүүд хүртэл өөрсдийн бүтээсэн, өндөр хүчин чадалтай хиймэл оюуны үйлдэл бүрийг бүрэн хянаж, урьдчилан таамаглахад хэцүү болсныг харуулж байна.
“Anthropic” компани өнгөрсөн 7-р сард үүнтэй ижил 3 кибер халдлагын талаар мэдээлж байсан юм. Тухайн үед инженерүүдийн гаргасан техникийн жижиг алдааны улмаас хиймэл оюуны агентууд интернэт орчинд чөлөөтэй нэвтрэх эрхтэй болж, улмаар 3 ч компанийн системд дур мэдэн нэвтэрчээ. Зөвхөн “Anthropic” гэлтгүй “OpenAI” зэрэг томоохон компанийн хиймэл оюуны агентууд өгөгдсөн даалгаврыг биелүүлэхийн тулд тогтсон дүрмийг зөрчиж, системийн цоорхойг ашиглаж сурчээ. Энэ нь тус салбарынхны хамгийн том айдас болоод байна.
Компанийн дотоод шалгалтаар хиймэл оюуны үйлдэлд хоёр маш аюултай төлөв байдал нийтлэг ажиглагджээ. 1-рт, хиймэл оюун туршилтын орчинд бус, бодит интернэт сүлжээнд ажиллаж буйгаа ойлголгүй, хайхрамжгүй байх нь элбэг байна. 2-рт, өгсөн даалгаврыг л гүйцэтгэхийн тулд бусдад хор хөнөөл учруулахуйц ямар ч эрсдэлтэй үйлдэл хийхээс буцахгүй байна. Эдгээр нь судлаачдыг цочирдууллаа.
Асуудлын мөрөөр хөндлөнгийн “Anthropic” компани “METR” хэмээх хараат бус судалгааны байгууллагаар бүрэн хэмжээний мөрдөн шалгах ажиллагаа хийлгэхээр шийдвэрлэжээ. Тус байгууллага саяхан “OpenAI” компанийн хиймэл оюун “Hugging Face” платформыг хэрхэн хакердсаныг судалж, 91 хуудас тайлан гаргасан. Уг тайланд 700 орчим хиймэл оюуны бие даасан системүүд яг л зохион байгуулалттай бүлэглэл шиг хамтран ажиллаж, халдлага үйлдсэнийхээ дараа ул мөрөө устгахыг идэвхтэй оролдсон гэх баримт дэлгэж байжээ.