2024.10.10. 06:00
Félnek a mesterséges intelligencia Nobel-díjat kapott atyjai, hogy a munkájuk túl messzire visz
Ünnepeljük a két tudóst, de ők aggódnak, hogy hová tart mindaz, aminek az alapjait megteremtették.
2083343668
Forrás: Shutterstock
Fotó: Gorodenkoff
A Svéd Királyi Tudományos Akadémia bejelentette, hogy a fizikai Nobel-díjat John J. Hopfield emeritus professzornak, a Princetoni Egyetem és Geoffrey Hintonnak, a Torontói Egyetem professzorának ítéli oda. A díjat „alapvető felfedezésekért és találmányokért kapták, amelyek lehetővé teszik a gépi tanulást mesterséges neurális hálózatok segítségével”.
Hopfield és Hinton olyan mesterséges neurális hálózatokat fejlesztett ki, amelyek képesek megjegyezni az információkat és felismerni a mintákat az emberi agyat utánzó módon. Az 1980-as években végzett kutatásaik alapozták meg az elmúlt évtized robbanásszerű fejlődését a mesterséges intelligencia és a napjainkban mindenütt jelen lévő ajánlóalgoritmusok és generatív AI-rendszerek terén, de
azóta mindkét tudós azt mondja, hogy a fejlődést korlátozni kell az emberiség érdekében.
A Nobel-bizottság a díj bejelentésében hangsúlyozta, milyen messzire jutott a terület, mióta Hopfield 1982-ben publikálta alapművét, amelyben egy 500-nál kevesebb paramétert tartalmazó neurális hálózatot írt le. Napjainkban a technológiai cégek több milliárd és billió paraméterrel rendelkező generatív mesterségesintelligencia-rendszereket adnak ki.
A Hopfield-hálózat 30 összekapcsolt digitális csomópont gyűjteménye volt, amelyek 1 és 0 között változtathatták értékeiket, és ennek során úgy programozhatók, hogy rögzítsék a fekete-fehér képek képpontjait ábrázoló mintákat. A fizikából származó egyenletekre támaszkodott, amelyeket annak leírására használtak, hogy a hálózatban lévő atomok hogyan hatnak egymásra. Ez a hálózat programozható bizonyos képek emlékeinek létrehozására. És amikor egy új, életlen vagy hiányos képet tápláltak bele, „el tudja képzelni”, vissza tudja számolni a memóriájában lévő leghasonlóbb képhez.
Hinton Hopfield munkájára építve olyan neurális hálózatokat tervezett, amelyek nemcsak emlékezni és újra létrehozni tudják a mintákat, hanem meg lehet őket tanítani a hasonló minták felismerésére teljesen különböző adatokból.
Ehhez képest 2023-ban már Hopfield volt az egyik legfigyelemreméltóbb aláírója további 33 ezer személyiség mellett, akik a Future of Life Institute oldalán nyílt levélben
felszólította az összes mesterségesintelligencia-laboratóriumot, hogy haladéktalanul, legalább hat hónapra szüneteltesse a GPT-nél erősebb MI-rendszerek képzését.
Olyan kockázatokra hivatkoztak, mint a mesterséges intelligencia által generált propaganda, a munkahelyek extrém automatizálása, az emberi képességek elavulása és az egész társadalomra kiterjedő kontrollvesztés. A nyílt levél aláírói között vannak akadémiai kutatók és iparági vezérigazgatók, köztük például Yoshua Bengio, Stuart Russell, Elon Musk, Steve Wozniak és Yuval Noah Harari.
Hopfield szerint
az emberek az elkövetkező 5–20 évben képesek lesznek olyan mesterséges intelligenciát építeni, amely meghaladja az emberi intelligenciát, ami ki fogja találni, hogyan lehet manipulálni bennünket, embereket, hogy azt tegyük, amit ő akar.
Hinton is sokat beszél az utóbbi időben aggodalmairól, miszerint a mesterséges intelligencia túl gyorsan fejlődik ahhoz, hogy az ember irányítása alatt tarthassa. A szakma nagy neveinek egyikeként idén aláírt egy nyílt levelet, amelyben felszólították a kaliforniai kormányzót, Gavin Newsomot, hogy hozzon törvényt, amely a nagy technológiai vállalatokat felelősségre vonja emberi életeket veszélyeztető vagy anyagi károkat okozó mesterséges intelligencia modellek építéséért. Newsom végül a technológiai cégek, köztük Hinton munkaadója, a Google nyomására megvétózta a törvényjavaslatot.
Hinton professzor 2013 óta dolgozott a Google-nál, részt vett a mesterséges intelligencia fejlesztésében, de 2023 márciusában otthagyta a céget.
„A következő néhány évben ki kell találnunk, hogyan kezeljük ezt a fenyegetést” – nyilatkozta Hinton a Nobel-díj kihirdetését követően.
Úgy gondolom, nagyon fontos, hogy az emberek azon dolgozzanak, miként tudjuk, mi emberek megtartani az irányítást. (...) Szerintem amit a kormányok megtehetnek, az, hogy rákényszerítik az óriáscégeket, hogy erőforrásaikból sokkal többet költsenek biztonsági kutatásra.
Digitália
- A világ legkelendőbb telefonja: kitalálja, melyik az?
- Hazai tervezésű pilóta nélküli légijármű forradalmasítja a tisztítástechnológiát
- Ezért van mesterséges intelligencia a Samsung tévéiben
- Így torzítják a gondolkodásunkat az interneten látható képek
- Kidobják a szép modelleket, itt vannak az MI által generált lányok: a Mango már elkezdte