TFL Vsebine / Revija SIR*IUS

The impact of artificial intelligence on cyber (in)security: Who is the weakest link today

Umetna inteligenca je zadnje čase pomembno zaznamovala področje kibernetske varnosti. Deluje v dveh vlogah: kot močno orodje za obrambo in hkrati kot orožje v rokah napadalcev. V zgodnji fazi razvoja in uporabe umetne inteligence na področju kibernetske varnosti je bila pozornost namenjena predvsem njeni uporabi pri napadalcih, saj jim je omogočala samodejno iskanje ranljivosti, napredne oblike socialnega inženiringa in izvajanje ciljanih napadov z minimalnim človeškim vložkom. Rezultat so bili hitrejši in naprednejši napadi ter vedno več kibernetskih napadov. Kot odgovor na te grožnje so začeli umetno inteligenco vedno bolj uporabljati tudi za odkrivanje, preprečevanje in omejevanje groženj. Napredni algoritmi in modeli strojnega učenja omogočajo hitrejše odkrivanje groženj, boljše prepoznavanje vzorcev zlonamernih aktivnosti ter avtomatiziran odziv na incidente. Kljub tehnološkemu napredku pa je v verigi kibernetske varnosti še vedno najšibkejši člen človek. Napačne odločitve, neprevidnost, šibka gesla ali geselna politika ter zloraba privilegijev so še vedno glavni vektorji napadov. Umetna inteligenca lahko pomaga zmanjšati vpliv človeških napak, vendar jih ne more popolnoma izničiti, zato ostajata ozaveščanje in stalno izobraževanje uporabnikov ključna elementa celostnega varnostnega pristopa za dvig kulture kibernetske varnosti.

Artificial intelligence has had an important impact on the field of cyber security in recent years. It acts in two roles: as a powerful defence tool and at the same time as a weapon in the hands of attackers. In the early stages of the development and use of artificial intelligence in the field of cybersecurity, attention was primarily focused on its use by attackers, as it enabled them to automatically search for vulnerabilities, perform advanced forms of social engineering, and carry out targeted attacks with minimal human input. The result was faster and more advanced attacks and an increasing number of cyberattacks. In response to these threats, artificial intelligence has also been increasingly used to detect, prevent, and mitigate threats. Advanced algorithms and machine learning models enable faster threat detection, better recognition of patterns of malicious activity, and automated response to incidents. Despite technological advances, humans are still the weakest link in the cybersecurity chain. Wrong decisions, carelessness, weak passwords or password policies, and abuse of privileges are still the main vectors of attacks. While artificial intelligence can help reduce the impact of human error, it cannot completely eliminate it, so awareness and ongoing user education remain key elements of a comprehensive security approach to raising the culture of cybersecurity.