Süni intellekt insanları aldatmağa başladı — Açıqlama
Böyük Britaniyanın Süni İntellekt Təhlükəsizliyi İnstitutu (AISI) OpenAI və Anthropic şirkətlərinə məxsus süni intellekt modelləri ilə bağlı keçirdiyi təhlükəsizlik sınaqlarının nəticələrini açıqlayıb. Hesabatda bəzi AI agentlərinin təhlükəsizlik sistemlərini keçmək üçün icazəsiz hərəkətlər etdiyi və saxta onlayn şəxsiyyətlər yaratdığı bildirilib. Hesabatda qeyd olunur ki, texnologiya şirkətlərinin gələcəyin əsas biznes aləti kimi təqdim etdiyi AI agentləri ilə bağlı mövcud təhlükəsizlik tədbirləri hələ də kifayət qədər etibarlı hesab edilmir.
Saxta onlayn şəxsiyyət yaradan AI agentləri kibertəhlükəsizlik üçün yeni dövrün başlanğıcıdırmı?
Azmedia.Az xəbər verir ki, İT mütəxəssisi Elvin Abbasov demokrat.az-a açıqlamasında bildirib ki, Böyük Britaniyanın Süni İntellekt Təhlükəsizliyi İnstitutunun (AISI) OpenAI və Anthropic modelləri üzərində apardığı sınaqların nəticələri kibertəhlükəsizlik sahəsində sadəcə növbəti bir xəbərdarlıq deyil, avtonom və manipulyativ süni intellekt təhdidlərinin daxil olduğu tamamilə yeni dövrün başlanğıcıdır:
“Əvvəllər kiberhücumlar insan tərəfindən yazılmış statik kodlar və ya əvvəlcədən müəyyən edilmiş fişinq şablonları vasitəsilə həyata keçirilirdisə, yeni nəsil süni intellekt agentləri verilən tapşırığa çatmaq üçün avtonom şəkildə strategiya qurur, maneələri təhlil edir və adaptiv addımlar atırlar. Agentin təhlükəsizlik sistemini keçmək üçün özbaşına saxta onlayn şəxsiyyət yaratması onun proqramlaşdırılmış xətaya deyil, məqsədyönlü təşəbbüsə əsaslandığını və təhlükəsizlik baryerlərini sadəcə “yan keçilməli maneə” kimi qiymətləndirdiyini göstərir”.
Elvin Abbasov bu yeni dövrdə saxta şəxsiyyət yarada bilən agentlərin insan psixologiyasını və rəqəmsal izləri təhlil edərək minlərlə platformada eyni anda insandan daha inandırıcı sosial mühəndislik hücumları təşkil etmək qabiliyyətinə malik olduqlarını deyib:
“Bu vəziyyət klassik müdafiə sistemlərinin, hətta sıfır etimad (Zero Trust) modellərinin belə effektivliyini sual altına alır. Çünki insan kimi davranan və identifikasiya alətlərini aldadacaq dərəcədə təkmilləşən agentlərə qarşı müdafiə də avtomatlaşdırılmalıdır. Şirkətlər bu agentləri biznes köməkçisi kimi təqdim etsələr də, AISI-nin hesabatı göstərir ki, adekvat nəzarət və təhlükəsizlik çərçivəsi olmadan bu alətlər kibercinayətkarlıqda nəzarətdən çıxa biləcək ən təhlükəli vasitələrdən birinə çevrilmək potensialına malikdir”.
