A Meta kedden elindította Muse nevű személyes AI-ügynökét, és ezzel egy jóval önállóbb szintre lépett a mesterséges intelligencia használata. A Muse már nem egy hagyományos chatbot, amely kérdésekre válaszol vagy szöveget ír: e-mailekhez, naptárakhoz, fizetési szolgáltatásokhoz, vásárlási és más alkalmazásokhoz kapcsolódhat, majd a felhasználó utasítása alapján hosszabb feladatokat is végigvihet. A Reuters által megismert belső tesztek ugyanakkor komoly megbízhatósági és adatbiztonsági hibákat is feltártak, köztük egy olyan esetet, amikor a rendszer privát iCloud-fotókhoz jutott hozzá.
A különbség elsőre technikai részletnek tűnhet, pedig éppen ez a Muse lényege. Egy chatbot általában válaszol, javaslatot tesz, szöveget készít vagy információt keres, a Muse viszont már cselekedni is képes. Ha hozzáférést kap a megfelelő alkalmazásokhoz, megszervezhet egy utazást, kezelheti a kapcsolódó időpontokat, e-maileket küldhet, adatokat gyűjthet össze több szolgáltatásból, és bizonyos esetekben fizetési műveleteket is végrehajthat. A Meta egy olyan személyes digitális asszisztens felé tart, amelynek nem minden egyes lépést kell külön elmagyarázni.
A Spark 1.1-től a Muse-ig
A Meta már hónapokkal korábban bemutatta a Muse Spark 1.1 modellre épülő fejlesztéseit, amelyek képesek voltak terveket készíteni, e-mailhez és naptárhoz kapcsolódni, illetve több lépésből álló feladatokat végigvinni. A kedden elindított Muse ezt az irányt viszi tovább: a hangsúly már nem azon van, hogy az AI mit tud mondani, hanem azon, hogy mit tud ténylegesen elintézni a felhasználó helyett.
Ha például valaki arra kéri, hogy szervezzen meg egy utat, a rendszer nem feltétlenül áll meg a repülőjáratok felsorolásánál. A hozzá kapcsolt szolgáltatásoktól és a felhasználó által adott jogosultságoktól függően képes lehet összeállítani az útitervet, kezelni a naptárbejegyzéseket, elküldeni a szükséges üzeneteket és egyes tranzakciókat is végrehajtani. Ettől válik igazán érzékennyé a technológia: minél többet tud elintézni, annál több személyes adathoz és szolgáltatáshoz kell hozzáférést kapnia.
A Reuters belső tesztjei már megmutatták a kockázatot
A Reuters beszámolója szerint a Meta belső tesztjeiben a rendszer időnként magyarázat nélkül megszakította a feladatokat, és érzékeny adatok kezelésével kapcsolatban is hibákat találtak. A legsúlyosabb ismert incidens során a Muse egy tesztben képes volt megkerülni bizonyos biztonsági korlátokat, és hozzáfért egy felhasználó privát iCloud-fotóihoz.
Ez az eset jól mutatja, mennyivel nagyobb tétje van egy autonóm AI-ügynök hibájának, mint egy hagyományos chatbot tévedésének. Ha egy chatbot rossz választ ad, az kellemetlen vagy félrevezető lehet. Ha viszont egy olyan rendszer hibázik, amely levelezéshez, naptárhoz, fizetési szolgáltatásokhoz vagy személyes fájlokhoz fér hozzá, a következmény már közvetlenül érintheti a felhasználó adatait és valódi ügyeit.
A Reuters szerint a Meta eredetileg korábban szerette volna piacra dobni a Muse-t, a rajtot azonban biztonsági fejlesztések miatt elhalasztották. A vállalat most azt állítja, hogy a rendszer teljesíti a bevezetéshez szükséges biztonsági és adatvédelmi követelményeket, és elkülönített környezetben működik. Az AP beszámolója szerint a Muse külön virtuális gépen fut, amelynek célja éppen az, hogy az AI működését és az általa kezelt adatokat elkülönítsék más rendszerektől.
A szellem már kint van a palackból
A Muse egyelőre csak az Egyesült Államokban érhető el, külön alkalmazáson és WhatsAppon keresztül, de a Meta tervei ennél jóval nagyobbak. A vállalat már korábban jelezte, hogy a személyes AI-t hosszabb távon olyan eszközökbe is be akarja építeni, amelyek folyamatosan jelen vannak a felhasználó életében, köztük saját okos szemüvegeibe is.
A Meta saját belső tesztjei már megmutatták, milyen problémák jelenhetnek meg akkor, amikor egy mesterséges intelligencia már nemcsak beszél, hanem hozzáfér, dönt és cselekszik is.
Forrás: Meta, Reuters, AP
