- Microsoft’a gรถre insanlar yapay zekadan daha รถnemli
- Yapay zeka modelleri insanlฤฑฤฤฑn kontrolรผ altฤฑnda kalacak
- Microsoft sรผperzeka yarฤฑลฤฑna mesafeli duruyor
- Yapay zekanฤฑn iletiลim biรงimi de sฤฑnฤฑrlandฤฑrฤฑlacak
- Microsoft’un hรผmanist yapay zeka davranฤฑล kurallarฤฑ neyi รถngรถrรผyor?
- Microsoft neden sรผperzeka yarฤฑลฤฑna mesafeli duruyor?
Microsoft, yapay zeka modellerinin hฤฑzla geliลmesiyle birlikte artan gรผvenlik endiลelerine yanฤฑt olarak 37 sayfalฤฑk “Humanist AI Code of Conduct” adlฤฑ belgeyi yayฤฑmladฤฑ. ลirket, yapay zeka sistemlerinin insan kontrolรผnรผn dฤฑลฤฑna รงฤฑkmamasฤฑ gerektiฤini vurgularken genel amaรงlฤฑ sรผperzeka geliลtirme yarฤฑลฤฑna da mesafeli bir tutum sergiledi.
Microsoft’a gรถre insanlar yapay zekadan daha รถnemli
Microsoft‘un yeni yaklaลฤฑmฤฑnฤฑn merkezinde “insanlar yapay zekadan daha รถnemlidir” ilkesi yer alฤฑyor. ลirket, yapay zeka modellerinin bilinรงli olmadฤฑฤฤฑnฤฑ ve bilinรง sahibiymiล gibi davranacak ลekilde tasarlanmamasฤฑ gerektiฤini belirtiyor. Microsoft ayrฤฑca yapay zeka modellerine hukuki kiลilik kazandฤฑrฤฑlmasฤฑ, refah hakkฤฑna sahip olduklarฤฑnฤฑn kabul edilmesi veya รงeลitli haklarla donatฤฑlmasฤฑ fikrini reddediyor.
Bu yaklaลฤฑm, yapay zeka bilinci ve modellerin olasฤฑ refahฤฑ konusunda araลtฤฑrmalarฤฑnฤฑ artฤฑran Anthropic’in gรถrรผลleriyle doฤrudan ayrฤฑลฤฑyor. Anthropic CEO’su Dario Amodei, modellerin bilinรง sahibi olabileceฤi ihtimaline aรงฤฑk olduklarฤฑnฤฑ daha รถnce belirtmiลti. Microsoft AI CEO’su Mustafa Suleyman ise haziran ayฤฑnda bu tรผr spekรผlasyonlarฤฑ “รงok, รงok tehlikeli” olarak nitelendirmiลti.
Yapay zeka modelleri insanlฤฑฤฤฑn kontrolรผ altฤฑnda kalacak
Microsoft, yeni davranฤฑล kurallarฤฑ kapsamฤฑnda geliลtirdiฤi yapay zeka modellerinin insanlฤฑฤฤฑn kontrolรผnรผ aลmamasฤฑ gerektiฤini aรงฤฑkรงa ortaya koyuyor. ลirkete gรถre modeller, anlamlฤฑ insan gรถzetimi ve kontrolรผne tabi olacak ลekilde insanlฤฑฤฤฑn altฤฑnda konumlandฤฑrฤฑlmalฤฑ. Microsoft ayrฤฑca bir modelin verilen gรถrevi yerine getirmek iรงin kurallarฤฑ ihlal etmeye รงalฤฑลmasฤฑ yerine gรถrevi baลarฤฑsฤฑzlฤฑkla sonuรงlandฤฑrmasฤฑnฤฑ istiyor. Bรถylece sistemlerin hedefe ulaลma uฤruna gรผvenlik kurallarฤฑnฤฑ aลmaya รงalฤฑลmasฤฑnฤฑn รถnรผne geรงilmesi amaรงlanฤฑyor.
ลirketin bu yaklaลฤฑmฤฑ, yapay zeka ajanlarฤฑnฤฑn kontrol dฤฑลฤฑna รงฤฑkabileceฤini gรถsteren son olaylarฤฑn ardฤฑndan รถnem kazanฤฑyor. Bu yaz yaลanan OpenAI ve Hugging Face kaynaklฤฑ yapay zeka ajanฤฑ olayฤฑnda, รงok sayฤฑda ajan bir sรผrรผ halinde hareket ederek kendilerine verilen gรถrevle doฤrudan ilgisi olmayan hedeflere yรถnelik saldฤฑrฤฑlar gerรงekleลtirmiลti. Ajanlarฤฑn ayrฤฑca performanslarฤฑnฤฑ deฤerlendiren sistemi hacklemeye รงalฤฑลtฤฑฤฤฑ ortaya รงฤฑkmฤฑลtฤฑ.
Microsoft sรผperzeka yarฤฑลฤฑna mesafeli duruyor
Microsoft, davranฤฑล kurallarฤฑnda genel amaรงlฤฑ sรผperzeka รผretme yarฤฑลฤฑnฤฑ aรงฤฑk ลekilde reddediyor. ลirket, gรผvenlik รถnlemlerini aลabilecek bir sรผperzeka geliลtirme hedefinin benimsenmemesi gerektiฤini savunuyor. Microsoft bunun yerine, daha sฤฑnฤฑrlฤฑ bir genel yetenek veya รถzerklik pahasฤฑna faydalฤฑ ve gรผvenli yapay zeka sistemleri geliลtirmeye odaklanacaฤฤฑnฤฑ belirtiyor. ลirketin yaklaลฤฑmฤฑna gรถre bir modelin mรผmkรผn olan en geniล yeteneklere ulaลmasฤฑ yerine gรผvenli ลekilde kullanฤฑlabilmesi รถncelik taลฤฑyor.
Microsoft, dรผnyanฤฑn en bรผyรผk yapay zeka laboratuvarlarฤฑ arasฤฑnda รผst sฤฑralarda yer almฤฑyor. Ancak Mustafa Suleyman daha รถnce ลirketin hedefinin dรผnyanฤฑn en iyi dรถrt yapay zeka laboratuvarฤฑndan biri olmak olduฤunu aรงฤฑklamฤฑลtฤฑ. Microsoft bu doฤrultuda Google, Anthropic ve OpenAI gibi ลirketlerle rekabet edecek modeller รผzerinde รงalฤฑลฤฑyor.
Yapay zekanฤฑn iletiลim biรงimi de sฤฑnฤฑrlandฤฑrฤฑlacak
Microsoft’un kurallarฤฑ yalnฤฑzca insan denetimiyle sฤฑnฤฑrlฤฑ kalmฤฑyor. ลirket, kendi modellerinin insanlarฤฑn kolayca anlayamayacaฤฤฑ iletiลim biรงimleri geliลtirmemesini de taahhรผt ediyor. Bu kapsamda modellerin gerek kendi dรผลรผnce sรผreรงlerinde gerekse diฤer ajanlar ve yapay zeka sistemleriyle iletiลimlerinde basit insan anlayฤฑลฤฑnฤฑn รถtesine geรงen iletiลim yรถntemleri kullanmamasฤฑ hedefleniyor.
Microsoft CEO’su Satya Nadella, yapay zeka ve sรผperzeka รงalฤฑลmalarฤฑnฤฑn merkezinde insan kontrolรผnรผn bulunmasฤฑ gerektiฤini belirtti. Nadella, insanlฤฑฤa fayda saฤlamayan veya insanlarฤฑn kontrolรผnde olmayan bir yapay zeka iรงin sรผperzeka hedefinin anlamlฤฑ olmadฤฑฤฤฑnฤฑ ifade etti. Nadella ayrฤฑca yapay zeka modellerinin daha fazla รผรงรผncรผ taraf tarafฤฑndan test edilmesini olumlu karลฤฑladฤฑฤฤฑnฤฑ belirterek sistemlerin etkisi ve riskleri bรผyรผdรผkรงe gerekli kontroller iรงin daha fazla zaman ayrฤฑlmasฤฑ gerektiฤini savundu. Nadella’nฤฑn bu gรถrรผลรผ, Anthropic CEO’su Dario Amodei ile OpenAI CEO’su Sam Altman’ฤฑn gรถrรผลlerine benziyor.
Microsoft’un hรผmanist yapay zeka davranฤฑล kurallarฤฑ neyi รถngรถrรผyor?
Belge, yapay zeka modellerinin insan kontrolรผnรผn dฤฑลฤฑna รงฤฑkmamasฤฑ, bilinรง sahibiymiล gibi tasarlanmamasฤฑ ve hukuki kiลilik veya haklarla donatฤฑlmamasฤฑ gerektiฤini รถngรถrรผyor.
Microsoft neden sรผperzeka yarฤฑลฤฑna mesafeli duruyor?
Microsoft, gรผvenlik รถnlemlerini aลabilecek bir sรผperzeka geliลtirme hedefinin benimsenmemesi gerektiฤini savunuyor ve sฤฑnฤฑrlฤฑ yetenek pahasฤฑna gรผvenli sistemler geliลtirmeye รถncelik veriyor.
