A mesterséges intelligencia tényleg objektív?

Miről szól a történet

A mesterséges intelligencia gyakran az objektív, érzelemmentes tudás gépeként képzelődik el, amely kizárólag a tények alapján működik. Az HVG által közölt cikk alapján azonban az AI-rendszerek gyakorlatilag abból épülnek fel, ami maguk az emberek: előítéletekkel, szubjektivitással és torzításokkal. A történet azt vizsgálja, hogy az olyan algoritmusok, amelyeket gyakran pártatlannak és nem megkérdőjelezhető forrásnak tekintünk, valójában az őket létrehozó adatok és döntések tükrei. Ez alapvetően megkérdőjelezi azt a széles körben elterjedt felfogást, hogy az AI objektívabb vagy megbízhatóbb, mint az emberi ítélkezés — és rávilágít arra, hogy a technológia használatakor kritikusnak kell maradnunk a lehetséges elfogultságokkal szemben.

Ki számolt be róla

HVG — a cikk közvetlenül az AI állított objektivitásának kritikáját dolgozza fel.

Közönségi megítélés

(Az alábbiak a nyilvános diskurzus általános jellegzetességei, nem specifikus bejegyzésekre vagy felhasználónevekre alapulnak.)

Az AI objektivitásáról szóló viták rendszerint polarizált viták, ahol az állások között jelentős szakadék mutatkozik. A technológia-optimisták és az iparág képviselői általában azt hangsúlyozzák, hogy az AI-rendszerek humán döntésekre vagy intuícióra támaszkodásnál jobban csökkenthetik a szubjektív torzításokat. A kritikusok és az etikus mesterséges intelligenciával foglalkozók azonban azt vetik fel, hogy az algoritmusok az edzésadatok és a fejlesztési választások során beépített előítéleteket hordoznak, és ezek az elfogultságok gyakran láthatatlanok maradnak. A diskurzusban megjelenik az is, hogy az AI-alkalmazások konkrét területeiben — például az adózásban, a bűnügyi igazságszolgáltatásban vagy a felvételi procedúrákban — már kimutattak olyan diszkriminatív hatásokat, amelyek az eredeti adatokból vagy az algoritmusok kialakításából erednek. Az átlagos felhasználók körében növekszik a bizonytalanság: egyre többen érzékelnek ki egy olyan eszközöt, amely nem annyira semleges, mint amilyennek mutatnak.

Összes forrás

• HVG — A mesterséges intelligencia tényleg objektív?