A cikkek tükrözik a szerzők észrevételeit, nem feltétlenül egybeesnek a befektetési kategória szerkesztőségével. Ha kommentálja ezt a témát, küldje el cikket az édeeny@portfolio.hu címre.
A közzétett cikkek itt olvashatók.
Egy nemrégiben készült biztonsági tesztben az AI bank generációs chatbot célja, hogy segítse az ügyfeleket felülvizsgált hitelkérelmek küldésében az érzékeny pénzügyi információk közzétételéhez. A tesztelők kihagyják a biztonságot, és átfogó listát kapnak a hitelezési kérelmek jóváhagyásáról, beleértve az ügyfelek nevét.
Ez az oktató történet felhívja a figyelmet egy alapvető kérdésre:
Az általános mesterséges intelligencia forradalmasíthatja az összes iparágot, de erős biztonsági protokollok nélkül katasztrofális következményekkel járhat.
A hagyományos biztonsági modellek már nem elégek. Az átalakító technológiák, például a mesterséges intelligencia új, átfogó megközelítést igényelnek a kiberbiztonsághoz.
Ezen a területen a légi szállítás esetén hasznos modellt kínál. A szuperszonikus repülőgépekhez hasonlóan az általános mesterséges intelligencia is nagyszerű potenciális átalakítási technológia. Nincsenek képzett levegővezérlő, jól megtervezett rendszerek és erős biztonsági intézkedések, a tragikus hibák kockázata túl magas ahhoz, hogy figyelmen kívül hagyja őket. A szigorú biztonsági protokollok bevezetésével a légi szállítás az egyik legbiztonságosabb szállítási módszerré vált. Hasonlóképpen tagadhatatlan, hogy a mesterséges intelligencia fontos lehetősége van, de a technológia jövője a biztonsági kockázatok kezelésétől függ. Például a BCG legújabb kutatásai azt mutatják, hogy
Az üzleti vezetők háromnegyede a kiberbiztonságot tekinti a fő akadálynak, amelynek terjedése elterjedt.
- A szokásos szoftverrel ellentétben az AI generáció valószínűségre támaszkodik, ami kiszámíthatatlan eredményekhez vezethet.
- A nagy nyelvi modellek (LLM) ismeretlen viselkedést vezetnek be, a kiberbiztonsági függönyök létrehozásával.
- Ezenkívül az a tény, hogy támaszkodnak a természetes nyelv bemenetére, adaptálnak és integrálódnak más eszközökkel és szolgáltatásokkal, a hangos nyelvi modelleket sebezhetővé teszik.
Mivel a repülési forgalom átfogó, sokoldalú biztonsági módszert igényel, A hálózati biztonságot be kell integrálni minden AI osztályba, az architektúrától az adatkezelésig az emberi felügyeletig. Ilyen alap nélkül a mesterséges intelligencia jövője nem lesz biztos benne.
Az AI rendszerek egyik fő lyuka a gyors injekciós támadások, amikor a támadók az érzékeny adatok vagy a döntés logikai változásainak elkerülésével manipulálják a modellt. A fent említett banki chatbot teszt ugyanazt a riasztó kockázatot mutatja: a kiváltságok bővülése. A tesztelő adminisztrátorként bocsátotta ki magát, jóváhagyta az illegális kölcsönöket és a kiegészítő adatokkal.
Az egészségügyi ellátásban használt AI támogatások hasonlóak az ilyen veszélyekhez, mivel a biztonsági szakértők sikeresen megszerezték a titkos adófizetőt a kérdések finom üldözésével. Az orvosi történelem követelményei helyett a támadók feltették kérdéseiket, hogy összehasonlítsák őket a közös orvosi követelményekkel. Ez egy másik gyengeséget is jelez:
A mesterséges intelligencia gyakran hangsúlyozza a nyelv logikáját a hozzáférés -ellenőrzés ellen.
Ezek a lyukak a bankszektoron és az egészségügyi ágazaton kívül fordulnak elő. Számos alkalmazás az AI AIT Agent rendszereket használ, amelyekre a valós idejű adatokra van szükség a döntések meghozatalához, lehetőséget teremtve a támadók számára. Például egy mesterséges intelligencia chatbot biztonsági értékelése megmutatta, hogy a támadók kihasználhatják a gyenge alkalmazásprogramozási felület (API) megerősítését, hogy a termékeket és a készleteket manipulálják az LLM manipulálására.
A mesterséges intelligencia alkalmazkodóképessége a végrehajtáshoz A kontextus mérgezésével Használható. A modell válaszának fokozatos kialakításával az idő múlásával a támadók ellenőrizhetik a modell válaszát pontatlan vagy veszélyes ajánlásokra. Egy kísérletben egy gyógyfürdő -chatbot többször ki volt téve a nem biztonságos bemeneteknek. Végül elkezdett bevezetni a káros bőrápolási termékeket.
Mivel a mesterséges intelligencia rendszereket túlterhelték a hagyományos infrastruktúrával, automatikus követelményekkel, rendszerhibákat okozhatnak – ezt hívják Fertőző genetika jelenség. Ennek elkerülése érdekében a szervezeteknek képzést kell alkalmazniuk az AI modellek folyamatos bevitelére a bemenetekbe, hogy folyamatosan félrevezetőek legyenek az ellenállás növelése érdekében.
Automatikus és automatikus tudatosság valós időben Az adatok manipulálása előtt azonosíthatja a rendellenes AI katonákat, hogy befolyásolja a választ. Mivel a repülésvezérlő rendszerek független biztonsági mentéseken alapulnak, az AI biztonságnak többszintű biztosítékokon kell alapulnia, ideértve a rendellenes tudatosságot is, amely a rendellenes tevékenységek jelzésére, az illegális rendszerrendszerek és a valós fordított mechanizmusok megelőzésére való hozzáférés biztosítása érdekében.
Bár az elemzők előrejelztek A mesterséges intelligenciára fordított globális kiadások 2028 -ra meghaladják a 631 milliárd dollárt, és sok befektetés csak akkor fog jelentős nyereséget hozni, ha az alapvető kiberbiztonsági kihívásokkal foglalkoznak.– A legfontosabb, hogy a mesterséges intelligencia biztonságának alapvető funkcióvá kell válnia a rendszer architektúrájába, az adatkezelésbe és az emberi megfigyelésbe. A hatékony biztonsági keretnek rugalmasnak, adaptálhatónak, ellenállónak, a meglévő rendszerekbe kell integrálni.
Még az ipari vezetők is szembesülnek a tervezési kihívásokkal, ez hangsúlyozza a hatékonyabb biztonsági intézkedések szükségességét. 2023 márciusában az OpenAi hibát fedezett fel egy nyílt forráskódú mappában, amely véletlenül felfedte a TATGPT felhasználó fizetési adatait azáltal, hogy e -mail megerősítést küld a rossz címzetteknek.
A mesterséges intelligencia biztonságának a védelem érdekében rendszerekkel kell kialakulni. A hatékony adatkezelés azonban nemcsak a csatornák megerősítéséről és az edzési adatkészletek megerősítéséről szól. Megjelenik egyértelműen meghatározott stratégia, amelyet az adatok versenyelőnynek és az adatok gondos értékelésének tekintünk, valamint az adatok felhasználását.
A működési megfigyelés ugyanolyan fontos.
A kiberbiztonság nem korlátozható a szakértőkre.
Ezt egy bizonyos szervezet minden részébe és munkavégzésére kell kombinálni, valódi idő megfigyelő eszközökkel és adaptív visszajelzésekkel, hogy segítsék a szervezeteket a fenyegetések és a hiányosságok felmerülése ellen.
A magas szintű hálózati biztonságon kívül az éberség kultúrájának kiépítését is megköveteli.
A Verizon 2024 -es jelentése szerint Az emberi tényezőket tartalmazó összes adatsértés 68%-aPéldául csalárd támadások vagy pszichológiai manipuláció (társadalmi technikák). E kockázatok minimalizálása érdekében a munkavállalóknak nemcsak a fenyegetéseket kell azonosítaniuk, hanem meg kell tanulniuk a megfelelő reakciókat is. Az egyszerű intézkedések, például a rendszeres biztonsági képzés és az átlátható jelentési mechanizmusok jelentős változást hozhatnak.
Mint a repülési forgalom szigorú biztonsági intézkedések megtételével elérte a közbizalmat,
Mindenkinek védelmet kell építenie a megtévesztés, a manipuláció, a hack és a lehetséges problémák megelőzése érdekében, mielőtt valódi károkat okoznának.
Ehhez átfogó megközelítést igényel, az építészet, a technikák, az adatstratégiák és a mesterséges intelligencia integrálására. Az összes AI stratégiai osztályukban a biztonsági társaságok nagyon virágzóak lesznek, míg azok, akik az elavult biztonsági modelleket követik, határozottan vissza fognak térni.
Szerzői jog: Syndicate Project, 2025.
www.project-syndicate.org
Sylvain Duranton
A BCG X globális vezetője (a Boston Consulting Team technológiai kérdései). Ezt világszerte megfigyelték, hogy megoldásokat kínáljanak a vállalatok számára az AI alkalmazásokhoz.
Vanessa Lyon
A BCG globális vezetője felelős a hálózati kockázatokért és a digitálisért.
