Microsoft CEO’su Satya Nadella: "Yapay Zeka İnsan Kontrolünde Kalmalı"

Teknoloji devlerinin liderleri, yapay zeka sistemlerinin hızlı gelişimi karşısında güvenlik ve denetim mekanizmalarının artırılması gerektiği yönünde ortak uyarılarda bulunuyor. Microsoft CEO’su Satya Nadella, yapay zekanın doğrudan insanlığa hizmet etmesi ve sıkı bir denetim mekanizması altında tutulması gerektiğini belirterek sektör için kritik sınırları çizdi.

"İNSAN KONTROLÜ OLMADAN BU TEKNOLOJİYE DEĞMEZ"

Şirket çalışanlarına gönderdiği mesaj ve sosyal medya paylaşımlarında "süper zeka" arayışına değinen Nadella, temel hedefin insan menfeati olduğunu ifade ederek şu noktaların altını çizdi:

• Sıkı İnsan Denetimi: Gelişmiş yapay zeka modellerinin tamamen insan çıkarları ve gözetimiyle uyumlu olarak ilerlemesi gerektiğini vurguladı.
• Açık Şart: Nadella, insan kontrolünün ve faydasının sağlanamadığı bir senaryoda, böyle bir teknolojinin geliştirilmesinin peşinden gitmenin anlamsız olduğunu ifade etti.

MICROSOFT'TAN 2027 HEDEFLİ 'DAVRANIŞ KURALLARI'

Microsoft AI tarafından kamuoyunun görüşüne sunulan taslak davranış kuralları belgesine göre, 2027 yılından itibaren uygulanması planlanan çerçevede şu kurallar öne çıkıyor:

• Sistemler; insanların müdahale etmesine, düzeltmesine, yönlendirmesine ve gerektiğinde sistemi kapatmasına olanak tanıyacak.
• Yapay zeka, kendisine insan tarafından verilmeyen hedefleri kendi kendine edinemeyecek ve muhakeme süreçlerini denetleyicilerden gizleyemeyecek.
• Modeller bilinç sahibi bir varlık gibi davranmayacak; yalnızca yardımcı bir araç olarak işlev görecek.

SEKTÖR VE SİYASET ARASINDA 'YAPAY ZEKA' ANLAŞMAZLIĞI

Sektör temsilcilerinin güvenlik çağrıları ile siyaset arenası arasındaki görüş ayrılığı derinleşiyor:

Teknoloji Liderleri: Anthropic CEO’su Dario Amodei ve OpenAI CEO’su Sam Altman, yapay zekanın geliştirilme hızının yavaşlatılması ve bağımsız denetçilere geniş erişim hakkı tanınması konusunda görüş birliği bildiriyor.

Siyasi Cephe: ABD Başkanı Donald Trump ise yavaşlama çağrılarına karşı çıkarak Çin ile küresel rekabette geriye düşülmemesi gerektiğini savunuyor. Güvenlik endişelerini "sahtekarlık" olarak niteleyen Trump, "Yapay zekayı kim kazanırsa, kazanır" yaklaşımını benimsiyor.