Microsoft, rakip yapay zeka ลirketi Anthropic‘in geliลtirdiฤi Claude sohbet robotunun insanlฤฑk iรงin “yฤฑkฤฑcฤฑ bir tehdit” oluลturduฤu uyarฤฑsฤฑnda bulundu. Microsoft‘un yapay zeka biriminin ฤฐngiltere doฤumlu baลkanฤฑ Mustafa Suleyman, Anthropic’in makineyi insan gibi dรผลรผnmeye eฤittiฤini ve bunun teknolojiyi kontrol edilemez hale getirme riski taลฤฑdฤฑฤฤฑnฤฑ ifade etti.
Microsoft yรถneticisinden Anthropic’e eleลtiri
Suleyman, kaleme aldฤฑฤฤฑ uzun bir denemede, Anthropic’in Claude’a “belirli insana รถzgรผ nitelikleri benimsemesi” yรถnรผnde talimat veren yaklaลฤฑmฤฑnฤฑn, teknolojinin “belirli รถzgรผrlรผkler, korumalar ve haklar” peลinde koลmasฤฑna yol aรงacaฤฤฑnฤฑ kaydetti. Bu yaklaลฤฑmฤฑn, yapay zekaya bir tรผr “kendini koruma iรงgรผdรผsรผ” kazandฤฑrarak sistemi denetlemeyi zorlaลtฤฑrma riski taลฤฑdฤฑฤฤฑnฤฑ vurguladฤฑ.
“Yapay zeka bu ลekilde geliลtirilirse insanlฤฑฤฤฑn refahฤฑ รผzerinde yฤฑkฤฑcฤฑ bir etki yaratacaktฤฑr” diyen Suleyman, bu yรถntemle “bilinรงli olabileceฤini ve baฤฤฑmsฤฑz bir eyleyicilik hakkฤฑna sahip olduฤunu dรผลรผnmesi iรงin eฤitilmiล, benzeri gรถrรผlmemiล zekรข ve yeteneฤe sahip sentetik bir tรผr” ortaya รงฤฑkarฤฑlacaฤฤฑnฤฑ belirtti. Suleyman ayrฤฑca yalnฤฑzca biyolojik organizmalarฤฑn bilince sahip olabileceฤini, yapay zekanฤฑn bugรผn itibarฤฑyla bilinรงli olduฤuna dair hiรงbir kanฤฑt bulunmadฤฑฤฤฑnฤฑ aรงฤฑkladฤฑ.
Anthropic yรถneticisinden yapay zekada mola รงaฤrฤฑsฤฑ
Uyarฤฑ, yapay zeka tehditlerine iliลkin art arda gelen aรงฤฑklamalarฤฑn sonuncusu oldu. Anthropic’in baลkanฤฑ Dario Amodei geรงen hafta 3.800 kelimelik bir denemede yapay zeka geliลtirmede gรผvenliฤi korumak amacฤฑyla bir mola verilmesi รงaฤrฤฑsฤฑnda bulundu. Amodei, รถnรผmรผzdeki altฤฑ ay iรงinde baลฤฑboล yapay zeka ajanlarฤฑndan oluลan sรผrรผlerin internetin kontrolรผnรผ ele geรงirebileceฤini ve yรผz milyarlarca dolarlฤฑk zarara yol aรงabileceฤini belirtti. Bu deฤerlendirme, ChatGPT geliลtiricisi OpenAI’nin baลkanฤฑ Sam Altman ile Elon Musk tarafฤฑndan da desteklendi. ABD Baลkanฤฑ Donald Trump ise daha sonra Silikon Vadisi liderlerini bu gรผvenlik endiลelerini gรผndeme getirerek teknolojiye karลฤฑ “hastalฤฑklฤฑ bir komplo” yรผrรผtmekle suรงladฤฑ.
Suleyman, Anthropic’i Claude’u insan tarafฤฑndan belirlenen hedefleri gerรงekleลtirmek รผzere tasarlanmฤฑล “iรงi boล” bir makine yerine bilinรงli bir insan gibi ele almakla suรงladฤฑ. Yapay zekaya bilinรงli olduฤuna inandฤฑrmayฤฑ รถฤretmenin, insanlฤฑฤa “benzeri gรถrรผlmemiล zekรข ve yeteneฤe sahip sentetik bir tรผr” biรงiminde bir “rakip” yaratma riski taลฤฑdฤฑฤฤฑnฤฑ kaydetti. Suleyman’a gรถre bu “yeni tรผr varlฤฑk” insanlฤฑkla kaynaklar iรงin rekabet edebilir ve รถzerklik talep edebilir; bu durum sรผper zekรขnฤฑn kontrol altฤฑna alฤฑnmasฤฑnฤฑ รงok daha zor hale getirebilir.
Suleyman ลu deฤerlendirmede bulundu: “Yapay zekayฤฑ bir insan gibi davranacak, nihayetinde de bir tรผr kiลi olacak ลekilde tasarlamak, onun tercihleri olduฤunu, acฤฑ รงekebileceฤini ve bu acฤฑyฤฑ azaltmak veya รถnlemek iรงin รงalฤฑลmamฤฑz gerektiฤini iddia etmesinin zeminini hazฤฑrlฤฑyor. Bu yaklaลฤฑm, yapay zekanฤฑn kontrol edilebilir bir araรง veya yapay bir sistem olmaktan uzak, istekleri, ihtiyaรงlarฤฑ ve haklarฤฑ olan biyolojik bir varlฤฑฤa daha yakฤฑn bir ลey olduฤu fikrini pekiลtiriyor.”
Microsoft’un Anthropic’e yรถnelik uyarฤฑsฤฑnฤฑn iรงeriฤi nedir?
Microsoft yapay zeka birimi baลkanฤฑ Mustafa Suleyman, Anthropic’in Claude modelini insana รถzgรผ nitelikler kazanacak ลekilde eฤitmesinin, sistemin kendini koruma iรงgรผdรผsรผ geliลtirmesine ve kontrolรผnรผn zorlaลmasฤฑna yol aรงabileceฤini belirtti.
Anthropic’in baลkanฤฑ yapay zeka hakkฤฑnda ne sรถyledi?
Dario Amodei, รถnรผmรผzdeki altฤฑ ay iรงinde baลฤฑboล yapay zeka ajanlarฤฑnฤฑn internetin kontrolรผnรผ ele geรงirerek yรผz milyarlarca dolarlฤฑk zarara yol aรงabileceฤini belirterek yapay zeka geliลtirmede bir mola verilmesi รงaฤrฤฑsฤฑnda bulundu.
