Közös kutatóközpont indul Hongkongban
A Hongkongi Egyetem, vagyis a University of Hong Kong és a Global Cybersecurity Alliance közös intézményt hoz létre a mesterséges intelligencia és a kiberbiztonság kutatására. A két szervezet október 19-én jelentette be a Centre for AI and Cybersecurity Research megalapítását. A kezdeményezés lényege, hogy egyetlen együttműködési keretben kapcsolja össze az akadémiai kutatást, a biztonsági tesztelést és az ipari alkalmazásokat.
A központ az egyetem és a GCSA kutatási kapacitásaira, szakmai tapasztalatára, valamint nemzetközi partnerintézmények közreműködésére támaszkodik. A cél nem csupán új technológiák fejlesztése, hanem az is, hogy a tudományos eredmények szorosabban kapcsolódjanak a valós biztonsági helyzetekhez. Az intézmény az AI és a kiberbiztonság új módszertanait, technológiáit, továbbá az ezekhez kapcsolódó irányítási keretrendszereket is vizsgálja majd.
A kezdeményezés hátteréről és céljairól az AI és kiberbiztonsági központ beszámolója is részletesen ír.
Ho Chen vezeti az intézmény munkáját
A Centre for AI and Cybersecurity Research megbízott igazgatója Ho Chen professzor lesz. Ő egyben a HKU School of Computing and Data Science kiberbiztonsági tanszékének vezetője is. A központ feladataiba a Hongkongi Egyetem, a Global Cybersecurity Alliance és nemzetközi partnerintézmények kutatói kapcsolódnak be.
A szakmai munkát mesterségesintelligencia szakértői, kiberbiztonsági kutatók és technológiai kormányzással foglalkozó szakemberek is segítik majd. A tervek szerint kutatási és tanácsadói feladatokat kapnak, így a központ egyszerre építhet az elméleti tudásra és a gyakorlati tapasztalatokra. Ez a felépítés lehetőséget adhat arra, hogy a biztonsági problémákat ne kizárólag laboratóriumi körülmények között vizsgálják.
Ho Chen professzor szerint a mesterséges intelligencia gyors fejlődése példátlan biztonsági kockázatokat és kormányzási kihívásokat eredményez. A központ ezért olyan kérdésekkel is foglalkozik, amelyek az AI rendszerek megbízhatóságát, ellenálló képességét és társadalmi használatát érintik.
A nyelvi modellek biztonsága is fontos kutatási irány
A kutatási program egyik meghatározó területe a modellek belső biztonsága és a megbízható mesterséges intelligencia. A szakemberek a nagy nyelvi modellek és a generatív AI biztonságát, értelmezhetőségét, valamint ellenálló képességét vizsgálják. Ezek a kérdések különösen fontosak olyan rendszereknél, amelyek egyre több feladatban támogatják a felhasználókat és a szervezeteket.
Kiemelt témaként jelenik meg az AI alapú, automatizált fenyegetésvédelem is. A kutatók azt elemzik, miként használható a mesterséges intelligencia az összetett kibertámadások felismerésének javítására, illetve az ilyen támadások automatikus elhárítására. A cél az, hogy a biztonsági rendszerek gyorsabban és hatékonyabban reagáljanak a változó veszélyekre.
A központ a következő generációs technológiák kockázatait is értékeli. Ide tartozik a megtestesült mesterséges intelligencia, a robotika és a dolgok internete, vagyis az IoT. A negyedik fő irány a globális AI biztonsági szabványok és irányítási rendszerek kutatása lesz, ami a nemzetközi párbeszédet és együttműködést is támogathatja.
Nyílt eszközökkel kötnék össze a kutatást és az ipart
A központ tervei szerint fokozatosan kutatási eredményeket, biztonsági viszonyítási alapokat és nyílt forráskódú eszközöket tesznek közzé az AI és a kiberbiztonság területén. Ezek az eredmények a kutatók mellett a biztonsági szakemberek és az iparági szereplők számára is hasznosak lehetnek.
A HKU közleménye szerint az intézmény hídként köti össze az akadémiai kutatást, a biztonsági tesztelést és az ipari alkalmazásokat. Ettől azt várják, hogy a tudományos eredmények gyakorlati felhasználása gyorsabban megvalósuljon. A publikációk, a biztonsági benchmarkok és a nyílt forráskódú eszközök jelenthetik a kezdeményezés legkézzelfoghatóbb kimeneteit.
A nemzetközi és intézményközi együttműködés emellett hozzájárulhat ahhoz, hogy szélesebb szakmai párbeszéd alakuljon ki az AI biztonsági szabványairól és az irányítási modellekről. A kutatóközpont így nemcsak technológiai kérdésekkel foglalkozhat, hanem azokkal a szabályozási és szervezési feladatokkal is, amelyek a mesterséges intelligencia biztonságosabb használatához szükségesek.
