Generatiivinen tekoäly uhkana - SecMeter

• MFA failure rate
• Phishing click-through rate
• Time-to-detect
• Time-to-contain
• Poikkeavien kirjautumisten määrä
• Rahansiirtojen poikkeamahälytykset
• AI-työkaluihin syötetyn sensitiivisen datan estot

Miten hyökkääjät hyödyntävät generatiivista tekoälyä

Generatiiviset kielimallit kykenevät tuottamaan nopeasti laadukasta, ihmisen kirjoittamaa tekstiä muistuttavaa sisältöä. Hyökkääjä voi mallintaa yrityksen sisäistä viestintätyyliä ja laatia henkilökohtaiselta vaikuttavia viestejä, jotka ohittavat perinteiset tunnistusmekanismit, kuten kirjoitusvirheisiin tai kielioppivirheisiin perustuvat heuristiikat.

Lisäksi tekoäly voi automatisoida kohteiden kartoituksen hyödyntämällä julkisesti saatavilla olevaa tietoa, kuten LinkedIn-profiileja ja yrityksen verkkosivuja. Näin voidaan luoda tilanteeseen sopivia ja uskottavia viestejä, esimerkiksi HR-pyyntöjä, projektipäivityksiä tai kiireellisiä taloushallinnon toimeksiantoja. Tämän seurauksena massaphishing muuttuu tehokkaammaksi ja kohdennettu spear-phishing entistä helpommin toteutettavaksi.

Kyberturvallisuuden tutkimusorganisaatio MITRE on korostanut tekoälyn mahdollistamien uhkien kasvavaa merkitystä. Sen kehittämä MITRE ATT&CK -viitekehys luokittelee hyökkäystekniikoita, kuten tunnistetietojen kaappaamista (credential dumping), sivuttaisliikkumista (lateral movement) ja phishing-hyökkäyksiä. Tekoäly toimii näissä tekniikoissa voimistavana tekijänä.

Fake-sivustot ja automatisoitu huijausinfrastruktuuri

Generatiiviset työkalut helpottavat uskottavien huijaussivustojen rakentamista eri kielillä. Mallit kykenevät tuottamaan sekä visuaalista sisältöä että HTML-, CSS- ja JavaScript-koodia, minkä lisäksi nykyaikaiset sivustonrakennuspalvelut mahdollistavat sivuston pystyttämisen minuuteissa.

Identiteetin- ja pääsynhallintaan erikoistunut Okta on raportoinut tapauksista, joissa generatiivista teknologiaa on käytetty identiteettipalveluita jäljittelevien kirjautumisportaaleiden luomiseen hyvin nopeasti.

Tämä tekee phishing-sivustoista paitsi nopeammin tuotettavia myös vaikeammin jäljitettäviä. Hyökkäysinfrastruktuurin elinkaari lyhenee, ja puolustajien reaktioaika kapenee.

Deepfaket ja etähuijaukset

Puheen ja kasvojen generointi tai manipulointi mahdollistaa johtohenkilöiden äänen ja ulkonäön jäljittelyn videokokouksissa tai puheluissa. Julkisuudessa on raportoitu tapauksista, joissa deepfake-teknologiaa hyödyntänyt videokokous johti merkittävään rahansiirtoon.

Tällaiset hyökkäykset voivat aiheuttaa suoria taloudellisia menetyksiä, mainehaittoja ja tietovuotoja. Deepfake-teknologian kehittyessä pelkkä ihmisen arvio ei enää riitä luotettavaksi varmistuskeinoksi, mikä korostaa monikanavaisen todennuksen ja prosessikontrollien merkitystä.

Guardianin raportoima tapaus deepfake-videokokouksesta

The Guardian raportoi deepfake-videokokoushuijauksesta 5.2.2024. Artikkelissa kerrottiin, että Hongkongin poliisi tutki tapausta, jossa monikansallisen yrityksen työntekijä huijattiin siirtämään noin 200 miljoonaa Hongkongin dollaria (noin 20 miljoonaa puntaa) osallistuttuaan videokokoukseen.

Kokouksen aikana työntekijää ohjeistettiin suorittamaan useita rahansiirtoja, jotka hän toteutti luottaen siihen, että kyseessä oli yrityksen sisäinen ja valtuutettu pyyntö. Myöhemmin kävi ilmi, että videokokouksen osallistujat olivat tekoälyn avulla tuotettuja deepfake-hahmoja.

Tapauksen erityispiirre oli se, että huijaus ei perustunut yksittäiseen väärennettyyn sähköpostiin tai äänipuheluun, vaan reaaliaikaiseen videokonferenssiin, jossa useita henkilöitä esiintyi samanaikaisesti. Deepfake-teknologiaa oli käytetty sekä kasvojen että äänen jäljittelyyn. Tämä loi vahvan autenttisuuden vaikutelman ja murensi perinteisen oletuksen siitä, että videoyhteys itsessään toimii henkilöllisyyden varmistuksena.

Huijauksen onnistumista selittää useiden tekijöiden yhdistelmä. Ensinnäkin teknologinen toteutus oli riittävän laadukas herättääkseen luottamusta. Toiseksi hyökkääjät hyödynsivät sosiaalisen manipuloinnin keinoja, kuten kiireellisyyden tunnetta ja yrityksen hierarkkista auktoriteettia. Kolmanneksi prosessikontrollit eivät estäneet yksittäistä työntekijää toteuttamasta suuria rahansiirtoja pelkän videokokouksen perusteella.

Tapaus osoittaa, että deepfake ei ole pelkästään maine- tai disinformaatiouhka, vaan konkreettinen taloudellinen riski yrityksille. Visuaalinen ja auditiivinen todentaminen ei enää riitä, jos teknologia kykenee jäljittelemään ihmisiä lähes täydellisesti. Yritysten on siirryttävä kohti monikanavaista varmennusta, jossa kriittiset päätökset, erityisesti taloudelliset siirrot edellyttävät useampaa riippumatonta vahvistusta.

Automatisoitu tiedonlouhinta ja personoitu sosiaalinen manipulointi

Generatiivinen tekoäly yhdistettynä avoimen lähdetiedustelun (OSINT) menetelmiin mahdollistaa laajamittaisen, automatisoidun profiilien rakentamisen. Näiden tietojen pohjalta voidaan laatia erittäin yksilöllisesti kohdennettuja huijauksia. Mallit voivat lisäksi tuottaa väärennettyjä dokumentteja, sopimuksia tai muita tunnistusaineistoja, joita hyödynnetään sosiaalisen manipuloinnin tukena.

Miksi kyse on uudesta uhkatasosta?

Generatiivinen tekoäly parantaa hyökkäysten kielellistä laatua ja kontekstuaalista osuvuutta, mahdollistaa laajamittaisen automatisoinnin ja mukautuu tarvittaessa vuorovaikutukseen reaaliajassa. Hyökkääjä voi testata ja optimoida viestejä nopeasti sekä kohdentaa niitä tarkasti eri käyttäjäryhmille.

Tämä murtaa monia perinteisiä suojamalleja, jotka perustuivat staattisiin sääntöihin tai yksinkertaisiin tunnusmerkkeihin. Puolustuksen on siirryttävä kohti käyttäytymispohjaista, riskilähtöistä ja kontekstuaalista analyysiä.

Miten organisaatiot voivat hyödyntää generatiivista tekoälyä suojautumisessa

Älykkäämpi havaitseminen

Perinteiset allekirjoitus- ja sääntöpohjaiset sähköpostisuodattimet eivät yksin riitä. Uudet suojausratkaisut hyödyntävät koneoppimista ja generatiivisia malleja viestien intentioiden, kielenkäytön ja käyttäytymismallien analysointiin. Samalla tarkastellaan kirjautumisia, istuntoja ja tiedonsiirtoja kokonaisuutena.

Työkalut, jotka oppivat yrityksen normaalin viestintä- ja käyttäytymisprofiilin, voivat tunnistaa poikkeamat ja nostaa korkean riskin tapahtumat automaattisesti tutkintaan.

Deepfake-tunnistus ja vahvempi todennus

Puhe- ja videomanipulaation torjumiseksi voidaan hyödyntää signaalianalyysiä, metatietojen tarkistusta sekä vahvempia tunnistusmenetelmiä kriittisissä prosesseissa. Kaksivaiheinen todennus, useamman henkilön hyväksyntä merkittäville maksuille ja erillinen varmennuskanava rahansiirtopyynnöissä ovat keskeisiä kontrollikeinoja.

Proaktiivinen testaus ja red teaming

Yritykset voivat käyttää generatiivista tekoälyä omassa turvatestauksessaan. Realistiset phishing-simulaatiot, kontrolloidut deepfake-harjoitukset ja tekoälyllä tuotettujen hyökkäysmallien testaaminen auttavat tunnistamaan puolustuksen heikkouksia ennen todellista hyökkäystä.

Automaattinen vaste ja orkestrointi

Tekoäly voi tukea turvallisuusoperaatioita priorisoimalla hälytyksiä, tuottamalla tapahtumayhteenvedot asiantuntijoille ja käynnistämällä hallittuja automaattisia vastetoimia, kuten tunnuksen lukitsemisen tai istuntojen mitätöinnin. Automaatio vähentää kuormitusta ja lyhentää reagointiaikaa, mutta sen tulee perustua selkeisiin riskikriteereihin.

Datan- ja mallinhallinta

Kun yritys hyödyntää itse generatiivisia malleja, on varmistettava, ettei sensitiivinen tieto vuoda mallien kautta. Tämä edellyttää selkeitä käyttöohjeita, lokitusta, käyttöoikeuksien hallintaa sekä mallien elinkaaren systemaattista hallintaa.

Hallinnolliset ja juridiset näkökulmat

Teknologian rinnalla tarvitaan selkeät toimintaperiaatteet. Yrityksen tulee määritellä generatiivisen tekoälyn käyttöä koskevat säännöt, vastuut ja hyväksyntäprosessit. Kaikki tekoälypohjaiset päätökset ja tuotokset on voitava jäljittää, mikä korostaa lokituksen ja auditoinnin merkitystä.

Lisäksi on tärkeää seurata sääntelykehitystä ja osallistua uhkatiedon jakamiseen alan verkostoissa. Kansainväliset viitekehykset tarjoavat rakenteen tekoälyuhkien luokitteluun ja riskienhallintaan.