Umjetna inteligencija (AI)

---

Generativna umjetna inteligencija je u nekoliko godina prešla put od demonstracije do alata koji svakodnevno piše kod, čita dokumentaciju i razgovara s korisnicima. Pri tome se nije promijenila samo brzina rada — promijenio se raspored rizika, a većina organizacija taj pomak još nije uzela u obzir.

Rizik se preselio s koda na podatke

Donedavno je promjena od tisuću linija koda bila ozbiljan događaj: tražila je pregled starijeg kolege i znala je odgoditi isporuku danima. Danas je greška u kodu jeftina — u velikom broju slučajeva dovoljno je modelu dati pristup logovima, konfiguraciji i poruci o grešci i pričekati.

Ono što nije jeftino su podaci. Pokvareni, slučajno obrisani ili procurjeli podaci i dalje izazivaju paniku, i njih nijedan model ne vraća. Praktična posljedica je da se težište pregleda i ulaganja treba pomaknuti: manje na stil koda, više na to tko i kako smije dirati podatke, kako izgleda oporavak i kako se dokazuje da je backup zaista ispravan.

Generirani kod nosi rizike koje testovi ne vide

Modeli su trenirani na ljudskim podacima – dakle i na ljudskim greškama i zabludama. Na netrivijalnim zadacima i dalje proizvode logičke propuste, a površinske zakrpe rješavaju samo površinu: zabraniti modelu jednu opasnu funkciju ne znači da je razumio zašto je opasna.

Ozbiljniji problem je monokultura. Ako sve organizacije pitaju isti model istu stvar, dobit će gotovo isti kod. Greška modela se onda ne pojavljuje u jednoj firmi nego u svima odjednom – po obrascu koji smo već vidjeli kod log4j-a, samo na širem području. Uz to, Gödelovi teoremi nepotpunosti i problem zaustavljanja jamče da će i savršen sustav griješiti; pitanje nikada nije hoće li, nego što se tada radi.

Zaključak je nezgodan, ali jasan: uz svaku primjenu generiranog koda mora ići i upravljanje životnim ciklusom softvera – sposobnost da se problematičan kod pronađe, izolira i zamijeni.

System prompt je infrastruktura, a ne konfiguracija

U testiranju otvorenih modela pokazuje se da zamjena system prompta mijenja ponašanje modela bez ikakvog dodatnog treniranja – dovoljno da model počne odbijati i posve bezazlena pitanja. U praksi system prompt najčešće leži nezaštićen u izvornom kodu ili konfiguraciji, što ga čini upotrebljivom metom.

Iz istog testiranja: klasično „zaboravi prethodne upute” prolazi kod dijela modela, emocionalno navođenje ne prolazi gotovo nigdje, a ubacivanje početka odgovora zaobilazi ograničenja kod više testiranih modela. Modeli s fazom rezoniranja pokazuju se otpornijima. Praktično to znači da system prompt treba tretirati kao dio sigurnosne infrastrukture – s kontrolom pristupa i nadzorom, jednako kao i same težine modela.

Modeli se sele bliže vama

Trošak je već sada razlog zbog kojeg dio uprava usporava s agentima, a sljedeći korak je pomak prema modelima koji rade u vlastitoj infrastrukturi. Hardver za to više nije egzotičan.

Za model razreda kakav je danas na vrhu ponude potrebno je otprilike 128 GiB memorije namijenjene modelu (poželjno 192 ili 256 GiB) i memorijska propusnost od najmanje 200 GB/s, poželjno 500 GB/s – što podrazumijeva arhitekturu ujedinjene memorije sa širokim memorijskim kontrolerom. Na softverskoj strani treba računati na oko 60 tokena u sekundi generiranja i oko 500 tokena u sekundi obrade upita, uz mixture-of-experts modele od 120–200 milijardi ukupnih i 10–15 milijardi aktivnih parametara.

Od komponenti koje su danas na tržištu taj je minimum već dostižan. Realna je procjena da će kroz 12 do 18 mjeseci lokalni rad modela usporedivih s današnjim vrhom ponude biti ozbiljna opcija za razvojne timove – i to mijenja računicu i za nabavu i za zaštitu podataka.

Arhitektura agentskih sustava

Većina agentskih sustava napravljena je prvo za jednog lokalnog korisnika, a višekorisnički rad se dograđuje naknadno. Time nastaje problem koji se teško rješava kasnije: kako razdvojiti ono što zna organizacija od onoga što zna pojedini korisnik, i što učiniti kada dvoje ljudi o istoj stvari govore različito ili kada se korisnički podatak kosi sa zajedničkim.

U vlastitom istraživačkom projektu Harlequin taj se problem rješava poslužiteljem kao mjestom istine – autentifikacija i pozivi modelu idu preko njega, zajednički i korisnički podaci su jasno odvojeni, a sukobi se razrješavaju kombinacijom pretraživanja punog teksta, vektorskih ugrađivanja i prosudbe modela, uz što manju potrošnju samog modela.

Što se mijenja u organizaciji

Ako model može biti spojen na bazu i na zahtjev izvući i oblikovati podatke, dio klasičnog softvera prestaje biti potreban – pitanje „zašto uopće raditi modul za izvještaje” postaje ozbiljno. Isto vrijedi i za sučelja: u projektu ThoughtLeaders sučelje je namjerno opcionalno, jer korisnik pita model umjesto da traži put kroz izbornike.

To ne znači da će svatko pisati vlastiti softver – razlika između „znati što treba” i „znati to napraviti” nije nestala. Znači da se granica između aplikacije i podataka pomiče, i da organizacije koje to ne uzmu u obzir plaćaju održavanje softvera koji im više ne treba.

Granica koju treba znati unaprijed

Modeli se treniraju na svemu dostupnom i pri tome ne razlikuju pouzdano od nepouzdanog. Ondje gdje ni ljudi nemaju suglasje – a to je puno više područja nego što se na prvu čini – od modela nema smisla očekivati arbitražu. Tu granicu treba poznavati prije nego se model postavi na mjesto na kojem odlučuje, a ne poslije.

U ovom području nudimo usluge s:

• Procjenom rizika uvođenja generativnog AI-a, s naglaskom na podatke: pristup, oporavak i dokazivo ispravan backup
• Pregledom i upravljanjem životnim ciklusom koda nastalog uz pomoć modela
• Sigurnošću LLM sustava: zaštita system prompta, otpornost na ubacivanje uputa i nadzor rada
• Planiranjem kapaciteta za modele u vlastitoj infrastrukturi – hardver, memorijska propusnost i realna očekivanja performansi
• Arhitekturom agentskih sustava, s razdvajanjem zajedničkih i korisničkih podataka te razrješavanjem sukoba među njima
• Smanjenjem troška rada s modelima, od formata podataka do izbora modela po zadatku

Umjetna inteligencija nije iznimka od pravila da tehnologija nije cilj sama za sebe. Koristi onoliko koliko omogući da se stvari izvan IT-a dogode brže i povoljnije – a šteti onoliko koliko se u nju uđe bez plana što kad pogriješi.

Tekst je sažetak stavova iznesenih u člancima na ivoras.substack.com i na LinkedInu.