Pojava umjetne inteligencije u web razvoju predstavljala je historijski skok naprijed: danas svako može kreirati profesionalnu web stranicu u rekordnom roku, a to ima i svoju lošu stranu. Modni alati poput Dopadljivo (sa svojim vibra kodiranjem) ili usluge implementacije poput Vercel Toliko su pojednostavili stvaranje da ih napadači iskorištavaju za postavljanje mamci za verifikaciju s navodnim CAPTCHA kodovima što su zapravo prvi korak ka prevari i zlonamjernom softveru.
Renomirane firme za sajber sigurnost dokumentovale su jasan obrazac: CAPTCHA testovi pokretani umjetnom inteligencijom koriste se kao društveni i tehnički filter. kako bi se smanjila sumnja, izbjegla automatska detekcija i preusmjerile žrtve na phishing web stranice ili opasne instrukcije (kao što je izvršavanje naredbi u Windowsu). Sve ovo direktno utiče na korisnike Microsoft Edgea i Microsoftovog operativnog sistema, gdje ove kampanje dobijaju na zamahu.
Zašto su CAPTCHA-e savršen mamac
Napadači znaju da prosječan korisnik povezuje CAPTCHA sa sigurnošću, pa su ga pretvorili u pouzdan mamac. Uobičajena igra počinje s nametljivim e-mailovima ili oglasima. Poruke koje sugeriraju hitnost i vode do ekrana koji simulira ljudsku kontrolu tipa CAPTCHA ili čak poruke koje izgledaju kao da potiču iz samog Chrome preglednika.
Ovaj međukorak ispunjava dvije svrhe: s jedne strane, smanjuje gard korisnika dajući mu privid legitimnostiS druge strane, to otežava život automatiziranim sistemima za analizu, koji vide naizgled bezopasnu stranicu prije stvarnog preusmjeravanja na zamku.
Nakon što se klikne ili "prođe" navodni CAPTCHA, slijedi udarac: žrtva završi na autentičnoj lažnoj stranici gdje se traže akreditivi i finansijske informacije ili se zlonamjerni softver prisiljava na preuzimanje ili izvršavanje. Testovi timova poput Proofpointa potvrđuju da ovaj "dvostruki sloj" povećava stopu uspjeha phishinga smanjenjem lažno pozitivnih rezultata u korporativnim filterima.
Trend je konsolidovan na većoj skali: Podaci IBM X-Force-a pokazuju da je 41% pokušaja phishinga u 2024. godini uključivalo prethodnu vizuelnu verifikaciju., što se uklapa u ovu strategiju manipulisanih CAPTCHA kodova kako bi se pojačao izgled sigurnosti.
Vještačka inteligencija kao mač s dvije oštrice: platforme, brojke i sezonalnost
Uspon kreatora web stranica zasnovanih na vještačkoj inteligenciji nije samo demokratizirao razvoj. Također je olakšao život kriminalcima. Trend Micro je locirao desetine stranica sa lažnim CAPTCHA kodovima na Vercelu, Lovableu i Netlifyju., s distribucijom koja prikazuje prilagođenost i starost korištenja.
Prema njegovoj analizi, Vercel koncentrirano 52 stranice ovog tipa, Lovable 43 i Netlify 3 u proučavanom periodu. Iako je Lovable favorit za vibraciono kodiranje među programerima, Vercel i Netlify su na tržištu duže, što je u skladu s tim da ih zlonamjerni akteri bolje poznaju i više iskorištavaju.
Volumen nije linearan. Postojalo je vrhunac između februara i aprila, naknadno hlađenje i još jedan značajan oporavak u augustu. Ovaj obrazac sugerira da su napadači Oni kalibriraju kampanje prema obrambenom odgovoru i zasićenosti, pauzirajući kada performanse padnu i ponovo pokrećući s manjim varijacijama mjesecima kasnije.
Zašto baš ove platforme? Razlog je jednostavan: Niske tehničke barijere, implementacije u roku od nekoliko sati i besplatni planovi koji minimiziraju troškove. Nadalje, korištenjem poddomena renomiranih servisa, nasljeđuju dio njihovog kredibiliteta kod korisnika i automatiziranih filtera.
Kampanje usmjerene na Windows: preusmjeravanja, PowerShell i krađa podataka
Kaspersky je upozorio na masovne kampanje koje vrše pritisak na korisnike Windowsa putem nevidljivih ili nametljivih oglasa, na stranice koje se pretvaraju da su legitimne CAPTCHA ili poruke samog preglednikaOni vas podstiču da kopirate i izvršite PowerShell komandu, prikrivenu kao „rješenje“ za navodnu blokadu.
Ta naredba preuzima i izvršava zlonamjerni softver. I s tim, otvara vrata za krađu akreditiva, kolačića i datoteka povezanih s kriptovalutamaZa samo dva mjeseca 2024. (septembar i oktobar), Kaspersky je zabilježio više od 140.000 interakcija sa zlonamjernim oglasima, od kojih je oko 20.000 preusmjereno na ove lažne stranice.
Tipičan tok Prevara, kako je uočeno u analiziranim slučajevima, slijedi ovaj redoslijed:
- Oglasi preko cijelog ekrana koji ne prikazuju pravi sadržaj već preusmjeravaju žrtvu na pripremljene stranice.
- CAPTCHA simulacija ili upozorenja preglednika da se stvori povjerenje i hitnost.
- Upute za izvršavanje naredbi (npr. u PowerShellu) koji instaliraju zlonamjerni softver bez znanja korisnika.
- Krađa osjetljivih informacija i potencijalni ekonomski uticaj i uticaj na privatnost.
Detalj koji ne treba zanemariti: Postoje ekstenzije koje automatski rješavaju CAPTCHA-e.Iako su korisni za korisnika, u ovom kontekstu mogu olakšati korisnicima da "preskoče" mamac bez dvaput gledanja. To ubrzava smanjenje zlonamjernih preusmjeravanja.
Reklamiranje, kolačići i lažni osjećaj normalnosti
Prevaranti se oslanjaju na elemente koje korisnici doživljavaju kao svakodnevne: skočni prozori, oglasi, baneri za kolačiće i poruke o pristankuŠiroko korištene platforme, poput LinkedIna, legitimno navode da koriste esencijalne i opcionalne kolačiće za ponudu i poboljšanje usluga, uključujući profesionalno oglašavanje na svojoj web stranici i izvan nje.
Ova pozadina reklama i banera doprinosi desenzibilizaciji: S toliko "prihvatanja kolačića" i reklama, skloni smo kliknuti bez razmišljanja.Napadači iskorištavaju ovu inerciju nevidljivim ili međuprostornim oglasima koji izgledaju normalno, ali u stvarnosti usmjeravaju korisnika na lažnu CAPTCHA stranicu.
Izvorna zaštita u Microsoft Edgeu: Scarecrow blocker i SmartScreen
Kako bi spriječio ove taktike, Microsoft je u Edge integrirao... Blokator strašila od umjetne inteligencije koji detektuje tipično prevarantsko ponašanje preko cijelog ekrana (agresivni zvukovi, blokiranje kontrola itd.). Sve analize se vrše na samom uređaju, bez otpremanja snimaka ekrana u oblak, čime se čuva privatnost korisnika.
Ovaj lokalni model upoređuje ono što se dešava na ekranu sa hiljadama poznatih uzoraka prevara i reaguje u realnom vremenu. Kada otkrije nešto čudno, Edge izlazi iz režima cijelog ekrana., isključuje stalni zvuk i prikazuje upozorenje sa sličicom označene stranice, nudeći vam da nastavite na vlastitu odgovornost ili zatvorite stranicu.
Osim toga, možete poslati povratne informacije kako biste pomogli u finom podešavanju sistema: Ako je blokiranje bilo uspješno, možete prijaviti stranicu. da bi se ojačao Microsoft Defender SmartScreen; ako je rezultat bio lažno pozitivan, možete ga prijaviti i radi poboljšanja tačnosti.
Zadano stanje i zahtjevi iz blokatora strašila u Edgeu:
- Aktivirano prema zadanim postavkama na uređajima s više od 2 GB RAM-a i najmanje 5 jezgara.
- Nije aktivirano prema zadanim postavkama Ako imate 2 GB RAM-a ili manje od 5 jezgri, možete ga uključiti tako što ćete otići u Postavke i više > Postavke > Privatnost, pretraga i usluge > Sigurnost i uključiti prekidač Blokiranje.
- Nije podržan sa računarima koji imaju manje od 1 GB RAM-a ili manje od 2 jezgre (opcija se neće pojaviti).
Ova bihevioralna blokada nadopunjuje Microsoft Defender SmartScreen, koji već štiti od prijavljenih stranica i preuzimanja. Zajedno, oni formiraju dodatni sloj protiv vrlo nestabilnih prevara. Onih koje se mijenjaju svakih nekoliko sati i za koje sistemima zasnovanim na potpisima treba više vremena da ih neutraliziraju.
Daljinska podrška pod mikroskopom: Zašto biste trebali izbjegavati brzu pomoć i šta koristiti
Još jedna prednost koju kriminalci iskorištavaju je podrška na daljinu. Microsoft je savjetovao da se ne koristi unaprijed instalirana aplikacija Quick Assist. primati pomoć od stranaca, zbog njihove zloupotrebe u kampanjama socijalnog inženjeringa u kojima se predstavljaju kao legitimni tehničari.
Alat nema specifičnu ranjivost. Problem je u prevariNapadač vas uvjerava da odobrite daljinsko upravljanje i odatle krade podatke, instalira zlonamjerni softver ili manipulira uređajem. Između aprila 2024. i aprila 2025. godine, Microsoft je zabilježio dnevni prosjek od 4.415 sumnjivih pokušaja povezivanja putem Quick Assist-a, što predstavlja 5,46% svih globalnih povezivanja s tom aplikacijom.
U aprilu 2024. godine, grupa Storm-1811 je otkrivena pomoću Visinging (glasovni phishing) kako bi se predstavljali kao podrška i dobili udaljeni pristup putem te rute. Iako u tom slučaju nisu direktno koristili vještačku inteligenciju, Vještačka inteligencija se koristi za generiranje vjerodostojnih identiteta, recenzije ili komunikacije koje izgledaju profesionalno, što korisniku otežava njihovo uočavanje.
Kao alternativu, Microsoft predlaže Daljinska pomoć za korporativna okruženja, sa robusnijom autentifikacijom i internim kontrolama pristupa. Nije dostupan za kućnu upotrebu, što zahtijeva izuzetan oprez prilikom traženja podrške. Inače, Microsoft tvrdi da je u protekloj godini spriječio pokušaje prevare vrijedne 4.000 milijarde dolara. i sarađuje sa Globalnim savezom za borbu protiv prevara (GASA) kako bi ojačao koordinirani odgovor.
Ključne preporuke od Microsofta za smanjenje rizika uz udaljenu podršku:
- Ne prihvatajte neželjene veze Ne izvršavajte upute navodnih tehničara koji vas kontaktiraju telefonom, SMS-om ili e-poštom.
- Koristite službene kanale i usluge s višefaktorskom autentifikacijom.
- Provjerite dobavljača nezavisnim sredstvima i izbjegavajte dijeljenje ličnih ili bankovnih podataka.
- Budite oprezni s tipičnim znakovima prevare: avansna plaćanja, „previše dobre“ ponude ili podrška s ličnih računa.
- Jača sigurnost sa 2FA, otkrivanjem prevara u realnom vremenu i preglednicima sa ugrađenom zaštitom poput Edgea.
Svakodnevne mjere: kako se zaštititi u Windowsu i pametno surfati
Prva odbrana si ti. Prije nego što slijediš čudne upute, Zapitajte se ima li smisla da vas web stranica traži da kopirate naredbe. ili onemogućite zaštite. Budite oprezni s CAPTCHA-ama koje otvaraju kartice, prisiljavaju na cijeli ekran ili prikazuju sistemske greške bez razloga.
Osnovni arsenal koji biste trebali imati aktivan uključuje pouzdana antimalware rješenja sa web zaštitom, blokiranje phishinga i skeniranje u stvarnom vremenu. Aktivirajte i ažurirajte Windows Defender ili svoj preferirani paket. I održavajte svoj sistem i Edge ažurnim.
Higijena lozinki ostaje ključna: koristite upravitelj lozinkiNe ponavljajte lozinke i omogućite dvofaktorsku autentifikaciju kad god je to moguće. Na taj način, čak i ako je jedna lozinka kompromitovana, to neće biti dovoljno.
Budite u toku s prevarama koje postoje. Trening i zdrava radoznalost sprečavaju mnoge strahoveAko vam nešto zvuči sumnjivo, provjerite sa službenim izvorima ili pitajte svoj sigurnosni tim.
Ako mislite da ste zagrizli mamac, vrijeme je da brzo reagujete: promijeniti lozinke ili ponovo pristupiti, prolazi potpuno skeniranje, kontaktirajte svoju banku ili provajdera kriptovaluta i prijavite incident nadležnim organima.
Kada je vještačka inteligencija dio rizika: privatnost, usklađenost i upravljanje
Generativna umjetna inteligencija je korisna, ali nije bezopasna za preduzeća. Unošenje internih ili ličnih podataka u javne servise kao što je chatbot može biti u sukobu s GDPR-om ako ne postoje ugovori o obradi podataka (član 28.), kontrola nad podobrađivačima, lokacija podataka ili jasna ograničenja korištenja.
Postoje i praktični problemi: Privremena zadržavanja do 30 dana radi praćenja zloupotrebe, mogući pristup osoblja ili izvođača radova pružatelja usluga, međunarodni transferi i ograničena vidljivost šifriranja ili obavještenja o kršenju sigurnosti. Podsjećamo da su 2023. godine italijanske vlasti dovele u pitanje transparentnost i pravni osnov, čak su privremeno blokirale uslugu.
Sa operativne tačke gledišta, postoji više rizika: netačni ili izmišljeni odgovori, naslijeđene predrasude podaci o obuci i prevelika ovisnost koja slabi kritički duh tima. Ovome se dodaje i shadow AIneovlaštena upotreba alata od strane zaposlenika, izvan radara IT-a i CISO-a.
Ako se sazna za nepažljivo korištenje ovih vještačkih inteligencija, to bi mogao biti udarac za njihov ugled. Slučajno curenje koda ili lista kupaca U javnoj službi, čak i bez loše namjere, mogu narušiti povjerenje kupaca i partnera i dovesti do kršenja ugovora o tajnosti podataka.
Dobre poslovne prakse: politike, minimalni podaci i kontrolirano okruženje
Ublažavanje počinje od vrha. Definirajte jasnu politiku koja uspostavlja Koje se umjetne inteligencije mogu koristiti, s kojim podacima i pod kojim kontrolamaKlasifikuje informacije (javne, interne, povjerljive) i zahtijeva prethodno odobrenje za sumnjive slučajeve.
Međupredmetna obuka je neophodna: uči kako anonimizirati ili sintetizirati podatke prije nego što ih unesete u vanjske alate i zahtijeva obaveznu ljudsku provjeru bilo kojeg generiranog sadržaja prije njegove upotrebe.
Ojačajte upravljanje sljedivošću: evidentira ko šta koristi, u koju svrhu i koje upute, ograničava pristup prema najmanjim privilegijama i priprema protokole odgovora za greške ili curenja.
Primijenite razumne tehničke mjere: minimizira i anonimizira podatke u upitima, onemogućite historije, zatražite odjave za obuku, izbrišite razgovore i koristite korporativne račune s poboljšanom privatnošću.
Za osjetljive informacije, odaberite kontrolirana okruženja: Azure OpenAI usluga ili Enterprise API sa DPA-om Da biste osigurali da se podaci ne koriste za obuku javnih modela, odaberite europsku regiju i primijenite ključeve kojima upravljaju kupci. Ako rizik to zahtijeva, modeli otvorenog koda na lokaciji (kao što su LLaMA 2 ili GPT-J) čuvaju informacije unutar perimetra.
Osim toga, štiti kanale i pristupe: HTTPS/TLS na svim integracijama, MFA i, ako je primjenjivo, dodatno šifriranje posebno kritičnih podataka prije slanja u model. Razmotrite testiranje upita u simuliranim okruženjima i pratite moguća curenja s praćenjem mreže i praćenjem dark weba.
Trenutna situacija ostavlja jasnu predstavu: CAPTCHA kodovi manipulisani umjetnom inteligencijom postali su savršen izgovor da se prokrijumčare phishing i zlonamjerni softver, posebno na Windowsu i putem svakodnevnog pregledavanja. Između sezonskog ponovnog porasta kampanja, iskorištavanja hosting platformi pokretanih umjetnom inteligencijom i pritiska za socijalni inženjering, vrijeme je da se kombinira hladna glava, zaštita preglednika (Edge sa svojim blokatorom phishinga i SmartScreen-om), digitalna higijena i, u korporativnim okruženjima, ozbiljno upravljanje AI alatima kako bi inovacija radila za, a ne protiv kompanije.
