ShutterstockA mesterséges intelligencia és az emberi ítélőképesség kombinációjával elkerülhető a „magabiztos tudatlanság”
Az emberi tudat iróniája, hogy gyakran, amikor a legkevesebbet tudunk valamiről, akkor vagyunk a legmagabiztosabbak. A mesterséges intelligencia, a technológia és a gépek sem javítják ki automatikusan ezt a tévedést. Mint az emberek, ezek a rendszerek sem ismerik fel mindig, hogy esetleg nem elég a tudásuk a döntéshez (például, ha a környezet változik ahhoz képest, mint, amire a mesterséges intelligenciát eredetileg kiképezték). De az emberek integrálása a gépi tanulást alkalmazó rendszerekbe nagyban hozzájárulhat a vakfoltok megszüntetéséhez.
Az Alpha Health cég egy rugalmasabb automata rendszer fejlesztésével foglalkozik. Úgy tervezik meg a rendszert, hogy elég rugalmas legyen a nem előrelátható események vagy funkciók kezeléséhez.
A rugalmasság fontosságának megértéséhez a Dunning-Kruger effektus és a vakfoltok ismerete szükséges. A Dunning-Kruger jelenséget két szociálpszichológusról nevezték el, akik 1999-ben elsőként írták le a témakört. Lényege, hogy gyakran, amikor először tanulunk valami újdonságot, és megszerezzük róla a minimális tudást, magabiztossá válunk. Bár még nem sokat tudunk a témáról, de döntéseket hozunk ez alapján újra és újra. A lényeg, hogy egyszerűen nem ismerjük fel, hogy mennyi mindent nem tudunk még, mert ahhoz nem tudunk még eleget.
Az automatizálás korában vagyunk, átalakul a gazdaság, mivel a robotok, az algoritmusok, a mesterséges intelligencia és a gépek integrálódnak minden tevékenységünkbe. Hiba lenne feltételezni, hogy az automatizálás korrigálja a Dunning-Kruger effektust. Az emberekhez hasonlóan a buta robotok és még az okos mesterséges intelligencia is gyakran nem ismeri fel saját kompetenciája határait (például nem ismeri fel az AI, hogy a feltételezései már nem igazak). A gépek ugyanolyan valószínűséggel érik el a tudatlanság és a magabiztosság közös csúcspontját, és ugyanolyan valószínűséggel hoznak katasztrofális döntéseket ez alapján.
De van megoldás. Az emberek esetében ez az alázatosság a döntéshozatal során. A gépek esetében ez azt jelenti, hogy rugalmas rendszereket kell létrehozni, amelyeket úgy terveztek meg, hogy tudják kezelni az ismeretlent. Az emberek integrálása ebbe a rendszerbe lehetővé teszi, hogy azonosítsák a lehetséges automatizálási hibákat. Az automatizálásban ezt néha „ember a hurokban” rendszernek is nevezik. Az autonóm rendszerek folyamatosan javulnak, miközben egyre több inputot szereznek. Ez nem egy merev folyamat, ha az autonóm jármű egy akadállyal találkozik az úton, az ember távvezérléssel közbeléphet, hogy elnavigálja az autót, miközben a rendszer tanul a távvezérlő intézkedéseiből. Az „ember a hurokban” rendszerek rugalmasak és zökkenőmentesen képesek kezelni a kiugró eseményeket.
A tudás és a mély megértés hosszú időt igényel. A mesterséges intelligencia és a gépi tanulás használatának előnye, hogy felgyorsítható a szakértelem megszerzése. Ahogyan az emberek, a gépek is tudják növelni idővel a kompetenciájukat és a magabiztosságukat, csak sokkal gyorsabban. Az automatizálás és a megfigyelés, a tanulás, majd a teljesítmény körének segítségével gyorsan javítható a teljesítmény. Az automata rendszerek további fejlesztésével pedig elkerülhető a kezdeti kis tudás-túlzott magabiztosság állapota.
Forrás: Forbes
Shutterstock
Bloomberg