Tregojini koteles suaj se çfarë mendoni brenda - efekti i kutisë së zezë

Fakti që algoritmet e avancuara të inteligjencës artificiale janë si një kuti e zezë (1) që hedh një rezultat pa zbuluar se si erdhi, disa shqetëson dhe të tjerët.

Në vitin 2015, një ekipi kërkimor në Spitalin Mount Sinai në Nju Jork iu kërkua të përdorte këtë metodë për të analizuar një bazë të dhënash të gjerë të pacientëve lokalë (2). Ky koleksion i madh përmban një oqean informacioni për pacientët, rezultatet e testeve, recetat e mjekut dhe më shumë.

Shkencëtarët e quajtën programin analitik të zhvilluar gjatë punës. Ai u trajnua me të dhëna nga rreth 700 njerëz. njerëzore, dhe kur testohet në regjistrat e rinj, është dëshmuar të jetë jashtëzakonisht efektiv në parashikimin e sëmundjeve. Pa ndihmën e ekspertëve njerëzorë, ai zbuloi modele në të dhënat spitalore që tregojnë se cili pacient është në rrugën e një sëmundjeje, siç është kanceri i mëlçisë. Sipas ekspertëve, efikasiteti prognostik dhe diagnostikues i sistemit ishte shumë më i lartë se ai i çdo metode tjetër të njohur.

2. Sistemi i inteligjencës artificiale mjekësore i bazuar në bazat e të dhënave të pacientëve

Në të njëjtën kohë, studiuesit vunë re se funksionon në një mënyrë misterioze. Doli, për shembull, se është ideale për njohja e çrregullimeve mendoresiç është skizofrenia, e cila është jashtëzakonisht e vështirë për mjekët. Kjo ishte befasuese, veçanërisht pasi askush nuk e kishte idenë sesi sistemi i AI mund të shihte kaq mirë sëmundjet mendore bazuar vetëm në të dhënat mjekësore të pacientit. Po, specialistët ishin shumë të kënaqur me ndihmën e një diagnostikuesi kaq efikas të makinës, por ata do të ishin shumë më të kënaqur nëse do të kuptonin se si AI arrin në përfundimet e saj.

Shtresat e neuroneve artificiale

Që në fillim, domethënë që nga momenti kur u bë i njohur koncepti i inteligjencës artificiale, kishte dy këndvështrime për AI. I pari sugjeroi se do të ishte më e arsyeshme të ndërtoheshin makina që arsyetojnë në përputhje me parimet e njohura dhe logjikën njerëzore, duke e bërë punën e tyre të brendshme transparente për të gjithë. Të tjerë besonin se inteligjenca do të shfaqej më lehtë nëse makinat mësonin përmes vëzhgimit dhe eksperimentimit të përsëritur.

Kjo e fundit nënkupton ndryshimin e programimit tipik kompjuterik. Në vend që programuesi të shkruajë komanda për të zgjidhur një problem, programi gjeneron algoritmi i vet bazuar në të dhënat e mostrës dhe rezultatin e dëshiruar. Metodat e mësimit të makinerive që më vonë evoluan në sistemet më të fuqishme të AI të njohura sot sapo kanë ndjekur rrugën e, në fakt, vetë makina programon.

Kjo qasje mbeti në margjinat e kërkimit të sistemeve të AI në vitet '60 dhe '70. Vetëm në fillim të dekadës së mëparshme, pas disa ndryshimeve dhe përmirësimeve pioniere, Rrjetet nervore "të thella". filloi të demonstrojë një përmirësim rrënjësor në aftësitë e perceptimit të automatizuar. 

Mësimi i thellë i makinerive i ka pajisur kompjuterët me aftësi të jashtëzakonshme, të tilla si aftësia për të njohur fjalët e folura pothuajse aq saktë sa një njeri. Kjo është një aftësi shumë komplekse për të programuar para kohe. Makina duhet të jetë në gjendje të krijojë "programin" e vet nga trajnim për grupe të mëdha të dhënash.

Mësimi i thellë ka ndryshuar gjithashtu njohjen e imazhit të kompjuterit dhe ka përmirësuar shumë cilësinë e përkthimit me makinë. Sot, përdoret për të marrë të gjitha llojet e vendimeve kryesore në mjekësi, financa, prodhim dhe më shumë.

Megjithatë, me gjithë këtë ju nuk mund të shikoni vetëm brenda një rrjeti të thellë nervor për të parë se si funksionon "brenda". Proceset e arsyetimit të rrjetit janë të ngulitura në sjelljen e mijëra neuroneve të simuluar, të organizuar në dhjetëra apo edhe qindra shtresa të ndërlidhura..

Secili prej neuroneve në shtresën e parë merr një hyrje, siç është intensiteti i një piksel në një imazh, dhe më pas kryen llogaritjet përpara se të nxjerrë daljen. Ato transmetohen në një rrjet kompleks në neuronet e shtresës tjetër - dhe kështu me radhë, deri në sinjalin përfundimtar të daljes. Përveç kësaj, ekziston një proces i njohur si rregullimi i llogaritjeve të kryera nga neuronet individuale në mënyrë që rrjeti i trajnimit të prodhojë rezultatin e dëshiruar.

Në një shembull të përmendur shpesh në lidhje me njohjen e imazhit të qenit, nivelet më të ulëta të AI analizojnë karakteristika të thjeshta si forma ose ngjyra. Më të lartat merren me çështje më komplekse si leshi apo sytë. Vetëm shtresa e sipërme i bashkon të gjitha, duke identifikuar grupin e plotë të informacionit si një qen.

E njëjta qasje mund të zbatohet për llojet e tjera të hyrjeve që fuqizojnë makinën për të mësuar veten: tingujt që përbëjnë fjalë në të folur, shkronjat dhe fjalët që përbëjnë fjali në tekstin e shkruar, ose një timon, për shembull. lëvizjet e nevojshme për të drejtuar një automjet.

Makinës nuk i mungon asgjë.

Bëhet një përpjekje për të shpjeguar se çfarë ndodh saktësisht në sisteme të tilla. Në vitin 2015, kërkuesit në Google modifikuan një algoritëm të njohjes së imazheve të të mësuarit të thellë, në mënyrë që në vend që të shihte objekte në foto, t'i gjeneronte ose modifikonte ato. Duke e drejtuar algoritmin mbrapsht, ata donin të zbulonin karakteristikat që përdor programi për të njohur, të themi, një zog ose një ndërtesë.

Këto eksperimente, të njohura publikisht si titulli, prodhuan përshkrime të mahnitshme të (3) kafshëve, peizazheve dhe personazheve groteske, të çuditshme. Duke zbuluar disa nga sekretet e perceptimit të makinës, siç është fakti që disa modele kthehen dhe përsëriten vazhdimisht, ata treguan gjithashtu se sa i thellë mësimi i makinës ndryshon nga perceptimi njerëzor - për shembull, në kuptimin që zgjeron dhe kopjon artefaktet që ne i shpërfillim në procesin tonë të perceptimit pa menduar. .

3. Imazhi i krijuar në projekt

Rastësisht, nga ana tjetër, këto eksperimente kanë zbuluar misterin e mekanizmave tanë njohës. Ndoshta është në perceptimin tonë që ka përbërës të ndryshëm të pakuptueshëm që na bëjnë të kuptojmë dhe të shpërfillim menjëherë diçka, ndërsa makina përsërit me durim përsëritjet e saj në objekte "të parëndësishme".

Teste dhe studime të tjera u kryen në një përpjekje për të "kuptuar" makinën. Jason Yosinski ai krijoi një mjet që vepron si një sondë e mbërthyer në tru, duke synuar çdo neuron artificial dhe duke kërkuar imazhin që e aktivizon atë më fort. Në eksperimentin e fundit, imazhe abstrakte u shfaqën si rezultat i "përgjimit" të rrjetit në flagrancë, gjë që i bëri proceset që ndodhin në sistem edhe më misterioze.

Sidoqoftë, për shumë shkencëtarë, një studim i tillë është një keqkuptim, sepse, sipas mendimit të tyre, për të kuptuar sistemin, për të njohur modelet dhe mekanizmat e një rendi më të lartë të marrjes së vendimeve komplekse, të gjitha ndërveprimet llogaritëse brenda një rrjeti të thellë nervor. Është një labirint gjigant funksionesh dhe ndryshoresh matematikore. Për momentin është e pakuptueshme për ne.

Kompjuteri nuk do të ndizet? Pse?

Pse është e rëndësishme të kuptohen mekanizmat vendimmarrës të sistemeve të avancuara të inteligjencës artificiale? Modelet matematikore po përdoren tashmë për të përcaktuar se cilët të burgosur mund të lirohen me kusht, kujt mund t'i jepet një kredi dhe kush mund të gjejë një punë. Të interesuarit dëshirojnë të dinë pse është marrë ky dhe jo një vendim tjetër, cilat janë bazat dhe mekanizmi i tij.

ai pranoi në prill 2017 në MIT Technology Review. Tommy Yaakkola, një profesor i MIT që punon në aplikacione për mësimin e makinerive. -.

Madje ekziston një pozicion ligjor dhe politik që aftësia për të shqyrtuar dhe kuptuar mekanizmin vendimmarrës të sistemeve të AI është një e drejtë themelore e njeriut.

Që nga viti 2018, BE-ja ka punuar për t'u kërkuar kompanive që të japin shpjegime për klientët e tyre në lidhje me vendimet e marra nga sistemet e automatizuara. Rezulton se kjo ndonjëherë nuk është e mundur edhe me sisteme që duken relativisht të thjeshta, siç janë aplikacionet dhe faqet e internetit që përdorin shkencën e thellë për të shfaqur reklama ose për të rekomanduar këngë.

Kompjuterët që drejtojnë këto shërbime programojnë vetë dhe e bëjnë atë në mënyra që ne nuk mund t'i kuptojmë... Edhe inxhinierët që krijojnë këto aplikacione nuk mund të shpjegojnë plotësisht se si funksionon.