Fiński prawicowy rząd pod przewodnictwem Koalicji Narodowej planuje przyspieszyć tempo innowacji opartych na sztucznej inteligencji (AI) w zakresie bezpieczeństwa, których celem jest wzmocnienie obrony kraju przed zagrożeniami rosnąca liczba ataków cybernetycznych skierowanych do organizacji państwowych i prywatnych.
Oczekuje się, że propozycje, które są obecnie oceniane pod względem kosztów przez Ministerstwo Finansów pod kątem umieszczenia ich w budżecie krajowym na 2024 r., spowodują zwiększenie wydatków Finlandii na poprawę zabezpieczeń cybernetycznych o 30% z poziomu z 2023 r. do 280 mln euro w 2024 r. Dokładne wydatki na cyberobronę oraz część przeznaczona na cybersztuczną sztuczną inteligencję zostaną ujawnione po sfinalizowaniu przez rząd budżetu na 2024 r. w październiku.
Ogólne ramy proponowanych przez premiera Petteri Orpo inicjatyw rządowych mających na celu wzmocnienie bezpieczeństwa narodowego będą ściśle zgodne z ustaleniami i zaleceniami zawartymi w szczegółowym raporcie analitycznym na temat zagrożeń związanych ze sztuczną inteligencją.
The Zagrożenie bezpieczeństwa wynikające z cyberataków wykorzystujących sztuczną inteligencję Raport (STAIC) został opracowany wspólnie przez państwową agencję transportu i komunikacji Traficom we współpracy z Krajową Agencją Zaopatrzenia Kryzysowego (NESA/Huoltovarmuuskeskuksen) i WithSecure, jednym z wiodących fińskich prywatnych operatorów w przestrzeni cyberbezpieczeństwa.
NESA, centralna organizacja rządowa podlegająca Ministerstwu Gospodarki i Zatrudnienia, pełni funkcję głównej agencji eksperckiej państwa fińskiego w zakresie planowania i operacji związanych z utrzymaniem i rozwojem narodowego bezpieczeństwa dostaw.
Finansowany przez Traficom raport STAIC zaleca zwiększenie skali inwestycji państwowych i prywatnych w celu rozwoju innowacji w cyberobronie. Jak sugeruje raport, innowacje powinny skupiać się na rozwiązaniach, które pomogą wzmocnić bezpieczeństwo państwa i korporacji, jednocześnie uniemożliwiając przeciwnikom uzyskanie przewagi dzięki cyberatakom wykorzystującym sztuczną inteligencję.
W raporcie STAIC szacuje się, że w ciągu najbliższych pięciu do sześciu lat cyberprzestępcy będą w stanie opracować narzędzia sztucznej inteligencji zdolne do samodzielnego wyszukiwania luk w zabezpieczeniach systemów informatycznych, a także wspierania planowania i przeprowadzania kampanii ataków wykorzystujących ukrycia w celu uniknięcia zabezpieczeń.
Wyrafinowane narzędzia
Co więcej, w raporcie prognozuje się, że cyberprzestępcy opracują również bardziej wyrafinowane narzędzia do wydobywania i gromadzenia informacji z zaatakowanych systemów, w szczególności wywiadu typu open source, stwierdził Andy’ego Patelaanalityk ds. badań nad sztuczną inteligencją w WithSecure.
„Chociaż treści generowane przez sztuczną inteligencję są wykorzystywane do celów inżynierii społecznej, techniki sztucznej inteligencji zaprojektowane do kierowania kampaniami, wykonywania etapów ataku lub kontrolowania logiki złośliwego oprogramowania nadal nie są obserwowane w środowisku naturalnym” – stwierdził. „Techniki te będą pierwszymi, które zostaną opracowane przez dysponujących dużymi zasobami, wysoko wykwalifikowanych przeciwników, takich jak grupy państw narodowych”.
Gdy przeciwnicy opracują techniki sztucznej inteligencji, niektóre z nich prawdopodobnie dotrą do mniej wykwalifikowanych „przeciwników w domenie cybernetycznej” i staną się bardziej powszechne w krajobrazie zagrożeń.
Aplikacje socjotechniczne
Raport STAIC opisuje bieżący przepływ zdarzeń cyberataków z wykorzystaniem sztucznej inteligencji jako „bardzo rzadkich i ograniczonych do zastosowań inżynierii społecznej”, takich jak podszywanie się pod określone i losowe osoby lub wykorzystywanie do analizy danych w systemach zaplecza. Opisuje identyfikację celów, inżynierię społeczną i podszywanie się pod inne osoby jako „najbliższe współczesne zagrożenia oparte na sztucznej inteligencji”, których można się spodziewać w perspektywie krótko- i średnioterminowej, zarówno pod względem liczby, jak i stopnia zaawansowania.
Konieczność wzmocnienia fińskiej krajowej obrony cybernetycznej na poziomie korporacji i państwa jest konieczna w związku z rozwojem trendów w technologiach, umiejętnościach i narzędziach sztucznej inteligencji, które sprawią, że sztuczna inteligencja stanie się bardziej dostępna i przystępna cenowo dla samotnych i zorganizowanych przestępców w tej dziedzinie, stwierdził Sauli’ego Pahlmanazastępca dyrektora generalnego w Narodowym Centrum Cyberbezpieczeństwa (NCSC).
„W świecie, w którym można już rozmawiać ze sztuczną inteligencją, jest bardzo prawdopodobne, że wkrótce przestępcy dokonują oszustw internetowych przy użyciu tej technologii. Ponieważ w nadchodzących latach technologie, umiejętności i narzędzia sztucznej inteligencji staną się łatwiej dostępne, zachęci to atakujących do wykorzystywania sztucznej inteligencji do przeprowadzania cyberataków”.
Wybiegające w przyszłość badania NCSC wskazują, że nawet jeśli sztuczna inteligencja nie doprowadzi w perspektywie krótko- i średnioterminowej do zupełnie nowych rodzajów ataków, to sztuczna inteligencja może i będzie wykorzystywana do zwiększania liczby cyberzagrożeń. Szybki postęp w dziedzinie sztucznej inteligencji prawdopodobnie stworzy nowe możliwości w zakresie automatyzacji ataków, inżynierii społecznej i gromadzenia informacji – dodał Pahlman.
Przyszłe inwestycje kapitałowe w
Finlandia
Mechanizmy obronne oparte na sztucznej inteligencji będą musiały stawić czoła wyzwaniom wynikającym z wykorzystania przez cyberprzestępców dojrzałych narzędzi sztucznej inteligencji. Obrońcy będą musieli dostosować się i ewoluować, aby zastosować nowe techniki zwalczania phishingu opartego na sztucznej inteligencji, który rutynowo wykorzystuje syntetyzowane treści i fałszuje systemy uwierzytelniania biometrycznego.
Obrońcy, zarówno państwowi, jak i korporacyjni, będą również musieli zwiększyć wykorzystanie usług nietechnicznych, takich jak wymiana informacji wywiadowczych, pozyskiwanie zasobów i szkolenia w zakresie świadomości bezpieczeństwa, aby zarządzać zagrożeniem atakami opartymi na sztucznej inteligencji, stwierdził Samuela Marchalastarszy naukowiec w WithSecure.
„W bezpieczeństwo na poziomie krajowym nie inwestuje się na takim samym poziomie jak w przypadku wielu innych zastosowań sztucznej inteligencji” – stwierdził. „Może to ostatecznie doprowadzić do tego, że atakujący zyskają przewagę. Chociaż legalne organizacje, programiści i badacze przestrzegają przepisów dotyczących prywatności i lokalnych przepisów, napastnicy tego nie robią. Jeśli krajowi decydenci spodziewają się rozwoju bezpiecznych, niezawodnych i etycznych technologii opartych na sztucznej inteligencji, będą musieli rozważyć, w jaki sposób zabezpieczyć tę wizję w odniesieniu do zagrożeń związanych ze sztuczną inteligencją”.
Obecna debata na temat sztucznej inteligencji w
Finlandia
koncentruje się głównie na korzyściach dla biznesu i przemysłu, a także na kwestiach związanych z prywatnością danych osobowych.
Badanie opublikowane w sierpniu przez Fundację Rozwoju Komunalnego (Kaks), niezależną organizację non-profit finansującą krajowe i regionalne programy badawcze, wykazało, że Finowie są zasadniczo podzieleni „po środku” co do postrzeganych korzyści i zagrożeń związanych ze sztuczną inteligencją.
Sondaż przeprowadził Kantar Public w czerwcu na grupie 1000 dorosłych w wieku uprawniającym do głosowania.
Około 62% respondentów ankiety stwierdziło, że sztuczna inteligencja prawdopodobnie zwiększy ogólną wydajność produkcji przemysłowej. Nieco ponad połowa uważa, że sztuczna inteligencja może zwiększyć produktywność pracy. Z drugiej strony 49% respondentów wyraziło negatywną opinię na temat sztucznej inteligencji, wyrażając obawy, że technologia może mieć negatywny wpływ na bezpieczeństwo pracy, jakość obsługi klientów i dostęp do dokładnych informacji.
Formułując nową politykę dotyczącą bezpieczeństwa sztucznej inteligencji, fiński rząd zaczął kontaktować się z najważniejszymi krajowymi organizacjami zajmującymi się badaniami technologicznymi. Należą do nich niedawno utworzona Wspólnota Praktyków Innowacji (IPC), która została utworzona w maju 2023 r. IPC, która będzie funkcjonować jako międzynarodowa sieć partnerska skupiająca liderów i specjalistów w zakresie innowacji, może odgrywać ważną rolę w kształtowaniu polityki rządu związanej z innowacjami poszerzanie wiedzy i bezpieczeństwo narodowe AI.
„Fińskie firmy tradycyjnie odnosiły sukcesy dzięki dużej wiedzy inżynieryjnej” – powiedział prezes IPC Antero Kivikoski. „IPC będzie promować otwarty dialog z menedżerami i właścicielami przedsiębiorstw, aby wykazać, w jaki sposób inwestowanie w innowacje może wzmocnić ich ofertę w zakresie rozwoju produktów i usług oraz przynieść korzyści ich firmom i społeczeństwu”.
