Google DeepMind’da yapay genel zeka gรผvenliฤi รผzerine รงalฤฑลan eski araลtฤฑrmacฤฑ Bilal Chughtai, geliลmiล yapay zeka sistemlerinin varoluลsal risk oluลturabileceฤi konusunda uyarฤฑda bulundu. Temmuz ayฤฑnda ลirketten ayrฤฑlan Chughtai’nin aรงฤฑklamalarฤฑ, Alphabet hissesi (GOOGL) รผzerindeki yapay zeka riskleri tartฤฑลmasฤฑnฤฑ yeniden gรผndeme taลฤฑdฤฑ. Yatฤฑrฤฑmcฤฑlar aรงฤฑsฤฑndan uyarฤฑ, Alphabet’in kฤฑsa vadeli kazanรงlarฤฑna doฤrudan bir tehditten รงok, sektรถrde daha sฤฑkฤฑ dรผzenleme ve daha yavaล yapay zeka geliลtirme yรถnรผndeki baskฤฑnฤฑn arttฤฑฤฤฑna iลaret ediyor.
Google DeepMind eski รงalฤฑลanฤฑ ne sรถyledi?
Chughtai, pazartesi gรผnรผ X platformunda yaptฤฑฤฤฑ paylaลฤฑmda, “Yakฤฑn zamanda AGI gรผvenliฤi ve hizalama araลtฤฑrmalarฤฑ รผzerinde รงalฤฑลtฤฑฤฤฑm Google DeepMind’dan istifa ettim” ifadelerini kullandฤฑ. Araลtฤฑrmacฤฑ aรงฤฑklamasฤฑnda, “Yapay zekanฤฑn hepimizi รถldรผrme potansiyeli taลฤฑdฤฑฤฤฑna iรงtenlikle inanฤฑyorum ve bu sonucu รถnlemek iรงin zamanฤฑmฤฑzฤฑn tรผkenmekte olduฤunu dรผลรผnรผyorum” deฤerlendirmesinde bulundu. Chughtai’nin uyarฤฑsฤฑ, Anthropic bรผnyesindeki araลtฤฑrmacฤฑlardan gelen benzer aรงฤฑklamalarฤฑn ardฤฑndan geldi. Eski Anthropic araลtฤฑrmacฤฑsฤฑ Jacob Coxon geรงtiฤimiz hafta, yapay zeka geliลtiren kiลilerin teknolojinin “on yฤฑlฤฑn sonuna kadar hepimizi รถldรผrebileceฤine” inandฤฑฤฤฑnฤฑ ifade etti. Anthropic’in hizalama bilimcisi Evan Hubinger ise yapay zekanฤฑn รถnรผmรผzdeki on yฤฑl iรงinde tรผm insanlฤฑฤฤฑ yok etme olasฤฑlฤฑฤฤฑnฤฑn yรผzde 10’un รผzerinde olduฤunu dรผลรผndรผฤรผnรผ aรงฤฑkladฤฑ.
Yapay zeka geliลtirme hฤฑzฤฑ konusunda sektรถrde ayrฤฑลma var
Aรงฤฑklamalar, giderek yetenekli hale gelen yapay zeka yarฤฑลฤฑnฤฑn yavaลlatฤฑlฤฑp yavaลlatฤฑlmamasฤฑ gerektiฤine dair kapsamlฤฑ bir tartฤฑลmayฤฑ besliyor. Anthropic CEO’su Dario Amodei, geliลmiล yapay zeka geliลtirmenin yavaลlatฤฑlmasฤฑ รงaฤrฤฑsฤฑnda bulundu ve bu รงaฤrฤฑ SpaceX CEO’su Elon Musk ile OpenAI CEO’su Sam Altman’dan beklenmedik destek gรถrdรผ. ABD Baลkanฤฑ Donald Trump ise tam tersi bir yรถnde hareket ederek, sektรถrden gelen daha sฤฑkฤฑ dรผzenleme รงaฤrฤฑlarฤฑnฤฑ “aldatmaca” olarak nitelendirdi.
Alphabet yatฤฑrฤฑmcฤฑlarฤฑ neyi izlemeli?
Piyasa aรงฤฑsฤฑndan asฤฑl risk, araลtฤฑrmacฤฑlarฤฑn รถngรถrdรผฤรผ en kรถtรผ senaryonun kendisi deฤil, artan gรผvenlik endiลelerinin dรผzenlemeye, daha yavaล model รงฤฑkฤฑลlarฤฑna veya daha yรผksek geliลtirme maliyetlerine dรถnรผลรผp dรถnรผลmeyeceฤi. Alphabet yatฤฑrฤฑmcฤฑlarฤฑnฤฑn DeepMind’ฤฑn model รงฤฑkarma sฤฑklฤฑฤฤฑndaki deฤiลiklikleri, yapay zekaya yรถnelik dรผzenleyici รถnerileri ve bรผyรผk laboratuvarlarฤฑn รถncรผ model geliลtirmeyi yavaลlatmaya yรถnelik olasฤฑ koordineli adฤฑmlarฤฑnฤฑ izlemesi gerekiyor. Daha geniล yapay zeka piyasasฤฑ iรงin sฤฑkฤฑlaลtฤฑrฤฑlmฤฑล kฤฑsฤฑtlamalar, model geliลtirme sรผreleri uzarsa iลlem gรผcรผ ve altyapฤฑ saฤlayan ลirketleri de etkileyebilir. Buna karลฤฑlฤฑk, sฤฑnฤฑrlฤฑ dรผzenleyici mรผdahale mevcut yapay zeka yatฤฑrฤฑm yarฤฑลฤฑnฤฑ bรผyรผk รถlรงรผde olduฤu gibi bฤฑrakacak. Bundan sonraki en รถnemli gรถsterge, araลtฤฑrmacฤฑlardan gelen uyarฤฑlarฤฑn yalnฤฑzca kamuoyu tartฤฑลmasฤฑnฤฑ yoฤunlaลtฤฑrmakla kalmayฤฑp politika veya kurumsal davranฤฑลlarda deฤiลikliฤe yol aรงฤฑp aรงmayacaฤฤฑ olacak.
Bilal Chughtai kimdir?
Bilal Chughtai, Google DeepMind bรผnyesinde yapay genel zeka gรผvenliฤi ve hizalama araลtฤฑrmalarฤฑ รผzerinde รงalฤฑลan, temmuz ayฤฑnda ลirketten ayrฤฑlan bir araลtฤฑrmacฤฑdฤฑr.
Yapay zeka uyarฤฑlarฤฑ Google’ฤฑ nasฤฑl etkileyebilir?
Uyarฤฑlar doฤrudan bir finansal tehdit oluลturmuyor; ancak artan gรผvenlik endiลeleri dรผzenlemeye, daha yavaล model geliลtirmeye veya yรผksek maliyetlere yol aรงarsa Alphabet ve geniล yapay zeka sektรถrรผ etkilenebilir.
