Deneyler, Japon bilim insanlarฤฑnฤฑn yapay zekaya dayanan gรถrรผntรผ tanฤฑmlama sistemini yanฤฑltmasฤฑ ile baลladฤฑ.
Kyushu รniversitesi’nden Su Jiawei ve meslektaลlarฤฑ, birรงok fotoฤrafta ufak deฤiลiklikler yaptฤฑlar. Bu fotoฤraflar daha sonra gรถrรผntรผ tanฤฑmamlama sistemi tarafฤฑndan analiz edildi.
Test edilen bรผtรผn sistemler derin sinir aฤlarฤฑ denilen bir yapay zeka รงeลidi etrafฤฑnda kuruluydu.
Sinir aฤlarฤฑ temelli รถฤrenme sistemi, tipik olarak รงok sayฤฑda devre arasฤฑnda baฤ kurulmasฤฑnฤฑ iรงeriyor – beyindeki sinir hรผcreleri gibi.
Bu sistemler, objelerin tipik olarak birbirinden nasฤฑl farklฤฑlaลtฤฑฤฤฑnฤฑ, pek รงok farklฤฑ รถrneฤi karลฤฑlaลtฤฑrarak รถฤreniyorlar.
Araลtฤฑrmacฤฑlar, bir fotoฤrafฤฑn yรผzde 74’รผnde bir pikseli deฤiลtirmenin, yapay zekanฤฑn gรถrdรผฤรผnรผ yanlฤฑล algฤฑlamasฤฑna neden olduฤunu buldular.
Bazฤฑ hatalar รงok da bรผyรผk deฤildi. รrneฤin kedi, kรถpekle karฤฑลtฤฑrฤฑldฤฑ. Ancak bazฤฑlarฤฑ oldukรงa ลaลฤฑrtฤฑcฤฑydฤฑ. รrneฤin hayalet uรงak, kรถpek sanฤฑldฤฑ.
Massachusetts Teknoloji Enstitรผsรผ’nden (MIT) araลtฤฑrmacฤฑlar deneyleri bir adฤฑm ileriye gรถtรผrerek รผรง boyutlu baskฤฑlar kullandฤฑ.
Bu ekipte yer alan Massachusetts Teknoloji Enstitรผsรผ’nden (MIT) Anish Athalye, dรผnya รงapฤฑnda araลtฤฑrmacฤฑlarฤฑn yapay zeka temelli gรถrรผntรผ tanฤฑmlama sisteminin zayฤฑflฤฑฤฤฑnฤฑ ortaya koymak iรงin deneyler yaptฤฑklarฤฑnฤฑ sรถylรผyor.
Athalye ve iล arkadaลlarฤฑnฤฑn yaptฤฑฤฤฑ deneylerde รผรง boyutlu bir kamlumbaฤa, tรผfek olarak algฤฑladฤฑ.
Athalye BBC’ye yaptฤฑฤฤฑ aรงฤฑklamada “Giderek artan sayฤฑda gerรงek dรผnyada kullanฤฑlan sistemler sinir aฤlarฤฑnฤฑ kullanmaya baลlฤฑyorlar ve bu sistemlere yanฤฑltฤฑcฤฑ รถrneklerle saldฤฑrฤฑ dรผzenlemek mรผmkรผn” diyor.
ลimdiye kadar bรถyle bir olay gerรงekleลmese de, Athalye bu akฤฑllฤฑ sistemlerin รงok kolay bir ลekilde kandฤฑrฤฑlabilmelerinin endiลe verici olduฤunu sรถylรผyor.
Facebook, Amazon ve Google gibi internet devlerinin bu tรผr รงarpฤฑtmalarla baล etme yรถntemleri รผzerinde รงalฤฑลtฤฑklarฤฑ biliniyor.
Athalye, derin sinir aฤlarฤฑnฤฑ bu tรผr yanฤฑltmalardan korumanฤฑn zor olduฤunu sรถylรผyor ve devam ediyor: “Bu รงรถzรผlememiล bir sorun. รnerilen รงok fazla sayฤฑda teknik oldu ve hemen hepsi iลe yaramaz รงฤฑktฤฑ.”
Araลtฤฑrmacฤฑ, รถฤrenme sรผreci sฤฑrasฤฑnda bu yanฤฑltฤฑcฤฑ รถrneklerin gรถsterilmesinin iลe yarayabileceฤini dรผลรผnรผyor, ancak bunun bile bu araลtฤฑrmayla ortaya konan bรผtรผn sorunlara nihai bir รงรถzรผm getirmeyeceฤini kaydediyor.
“Burada kesinlikle garip ve ilginรง bir ลeyler dรถnรผyor. Biz sadece henรผz bunun ne olduฤunu bilmiyoruz.”
