Jogos félelem? – Ne kísérletezzünk a „gépi istennel”!

Sok kutató és tudós figyelmeztetett már a mesterséges „agyak” potenciális veszélyére. Ezúttal a Google egyik korábbi vezetője intett óvatosságra, miután szemtanúja volt a cég egyik fejlesztésének. Úgy fogalmazott: a kutatók egy gépi istenen kísérleteztek.

A mesterséges intelligencia előnyeit számos területen kamatoztathatják a szakemberek, de napjainkban elsősorban az egészségügy és a robotika képes profitálni belőle. Vannak ugyanakkor, akik egyáltalán nem nézik jó szemmel, hogy a fejlesztések során a kutatók által kifejlesztett gépi algoritmusok olyan dolgokat is megtanulhatnak, amelyek veszélyt jelenthetnek.

Forrás: IoT  Zóna

Forrás: IoT Zóna

Mo Gawdat a Googl korábbi vezető beosztású dolgozója személyesen tapasztalta, hogy egy projekt során a fejlesztő cég, egy igen kockázatos területre merészkedett. A vállalat különféle robotkarokon dolgozott, melyeket tapasztalt mesterségesintelligencia-kutatókkal okosítottak fel.

A folyamat azonban nem hetekig vagy hónapokig tartott: a gépek egyik napról a másikra váltak egyre ügyesebbé, ami megrémisztette őt.

Szerinte a veszély nagyon is valós. Gawdat a kérdéses projekttel a Google X nevű részlegnél találkozott. Azt nem osztotta meg, hogy a gépi karok pontosan mi célt szolgáltak, de azt igen, hogy az őket vezérlő szoftver rendkívül intelligens volt. Állította ugyanis, hogy a karok egy idő után megtanulták beazonosítani és felemelni a tárgyakat, köztük egy labdát. És amint erre sor került, a gépek egyike a kutatók felé mutatott egy ilyen labdát, de Gawdat szerint olyan gesztussal, mint aki felvág vele, hogy pontosan tudja, mit csinál.

Ekkor tudatosult a szakemberben, hogy ezek a rendszerek a technológiai szingularitás határán egyensúlyoznak, egy olyan küszöbnél, ahonnan a számítógép önjáróvá és ellenőrizhetetlenné válik. Az intelligens gépek esetében ez azt jelenti, hogy a mesterséges „agy” átveheti az irányítást, és végső soron az emberre is veszélyt jelenthet. Gawdat úgy írta le a helyzet súlyát, hogy a kutatók egy gépi istennel játszadoznak.

Kicsit beleérezve a leírtakba. Egyelőre vélhetően csak keveseknek lehetett a fentiekhez hasonló tapasztalata a robotika kapcsán, mégis kísérteties lehet tényleg az a pillanat – ami nyilvánvalóan belátható időn belül eljön- , amikor az ember közelíti a gépi agy kontrolálhatóságának a határait. De az, hogy milyen módon jutunk el idáig és mégis, hogy biztosítjuk a folyamat során és hosszú távon a humán kontrollt, az mindannyiunk felelőssége és megkerülhetetlen feladata. A szerk.

Forrás: HVG Tech

Kapcsolódó cikkek:

Hozzászólások