Kretanje hypea umjetne inteligencije u operativnoj tehnologiji

Umjetna inteligencija u operativnoj tehnologiji: Prilike i izazovi

Na nedavno održanoj konferenciji S4X25, Jeffrey Macre, arhitekt Industrial Security Solutions u kompaniji Darktrace, obradio je ulogu umjetne inteligencije (AI) unutar okruženja operativne tehnologije (OT). Njegova prezentacija koja se bavila temom "Navigacija hype u AI" ukazala je na potrebu da se razjasne primjene AI u industrijskim sustavima i prepoznaju njena obećanja, ali i ograničenja.

AI Imperativ u OT

Macre je započeo isticanjem neospornog konsenzusa među globalnim liderima o potrebi integracije AI u firme. Prema Globalnom istraživanju Darktracea, čak 95% ispitanika prepoznaje važnost AI za povećanje sigurnosti i otpornosti na emergentne prijetnje. Međutim, postavlja se pitanje koliko su lideri duboko razumjeli različite vrste AI tehnologija koje su uključene u njihove sigurnosne platforme, s obzirom na to da je samo 26% njih imalo jasnu predstavu o tim aplikacijama.

Ova raskorak između svijesti i znanja poslužio je kao osnovni cilj sesije: premostiti gap u znanju i osnažiti sigurnosne stručnjake da kritički procjenjuju tvrdnje dobavljača tehnologije.

Razumijevanje AI Osnova: Nadzirano vs. Nenadzirano učenje

U svom izlaganju, Macre je zaronio u osnove strojnog učenja (ML), naglašavajući dva ključna oblika: nadzirano i nenadzirano učenje.

Nadzirano strojno učenje (ML)

• Svrha: Identificira poznate prijetnje analizom podataka koji su unaprijed označeni, kao što su najčešće ranjivosti ili obrasci napada.
• Prijava: Koristi se u alatima za otkrivanje prijetnji s fokusom na povijesne podatke kako bi se prepoznali poznati vektori napada.
• Ograničenja: Ova metoda je manje učinkovita protiv nula-dan prijetnji ili novih tehnika napada koje nisu prethodno dokumentirane.

Nenadzirano strojno učenje (ML)

• Svrha: Otkriće nepoznate ili nove prijetnje analizom obrasca i anomalija u podacima bez oslanjanja na unaprijed definirane oznake.
• Prijava: Ključna je za prediktivno održavanje, analizu ponašanja uređaja i otkrivanje prijetnji koje odstupaju od normalnih operativnih linija.
• Prednosti: Pruža veću prilagodljivost za dinamična okruženja, čime postaje neophodna za identifikaciju sofisticiranih cyber prijetnji.

Generativni AI: Nova granica u OT sigurnosti

Prelazeći izvan tradicionalnih ML modela, Macre je istraživao generativni AI, posebno velike jezične modele (LLMs). Uveo je zanimljivu studiju slučaja za postrojenje Frito-Lay, gdje je akustična analiza vođena AI korištena za optimizaciju proizvodnje. Praćenjem zvuka obrade kukuruza, AI sustav je prilagodio operacije u stvarnom vremenu kako bi za održao dosljednost proizvoda, pokazavši tako potencijal AI izvan domene cyber sigurnosti.

Uobičajeni slučajevi upotrebe generativnog AI:

• Dohvaćanje i optimizacija podataka: Povećanje efikasnosti u analizi složene PLC logike i mrežnog prometa.
• Sažetak sadržaja: Sintetiziranje podataka iz više izvora za pružanje korisnih uvida.
• Automatizirano generiranje koda: Pomoć u stvaranju i optimizaciji PLC koda na temelju povratnih informacija u stvarnom vremenu.
• Višejezična podrška: Prevođenje sigurnosnih upozorenja za globalne operacije radi poboljšanja svijesti o situaciji.

Kritična razmatranja: Ograničenja AI

Iako AI nudi značajne prednosti, nije bez svojih nedostataka. Macre je naglasio nekoliko ključnih izazova:

• Izazovi točnosti: AI sustavi mogu rezultirati lažnim pozitivnim ili negativnim ishodima, osobito kada su obučeni s pristranim ili nedovoljnim podacima.
• Podaci o privatnosti: Nadzor ML često zahtijeva povezanost s internetom, čime se povećavaju sigurnosni rizici zbog izloženosti podataka.
• Pretjerano oslanjanje na AI: Organizacije moraju biti oprezne i izbjegavati percepciju AI kao jedine solucije; ljudska prosudba ostaje ključna za potporu uvidima koje AI generira.

Ključna pitanja za dobavljače

Kako bi osnažio sudionike u procjeni rješenja koja se temelje na AI, Macre je iznio nekoliko važnih pitanja:

1. Koje su snage i ograničenja vaših AI modela?
2. Da li AI kontinuirano uči ili se oslanja na statičke skupove podataka?
3. Gdje se podaci analiziraju i pohranjuju – lokalno ili u oblaku?
4. Kako spriječiti pristranost u modelima treninga AI?
5. Koje mjere poduzimate za minimiziranje lažnih pozitivnih i negativnih nalaza?

Put naprijed: Kombinacija AI s ljudskom stručnošću

Macre je ukazao na to da je AI transformativni alat, ali istinska vrijednost leži u njegovoj kombinaciji s ljudskim znanjem. Stručnjaci za sigurnost moraju ne samo implementirati AI rješenja već i razumjeti njihove suštinske mehanizme. Stalna kritika i prilagodba strategija su ključne kako bi se odgovorilo na razvojne prijetnje.

Sjednica se pokazala kao značajan podsjetnik da, iako AI može znatno poboljšati sigurnost, njegova efikasnost ovisi o informiranoj primjeni, rigoroznoj procjeni i suradnji između tehnologije i ljudske ekspertize.