Uzmanından kritik altyapılarda yapay zeka tehlikesine karşı uyarı!
Yapay zeka, iş gücünü tehdit ediyor!
Yapay zeka gelişiminin etik, toplumsal ve ekonomik sonuçlarını dikkate almanın ehemmiyetine işaret eden uzmanlar, otomasyon ve yapay zekanın, belli kesimlerde işsizliğe neden olabileceğini söylüyor.
Yapay zeka sistemleri kritik altyapıya daha fazla entegre epeyce, siber taarruz ve makus niyetli kullanım riskinin de arttığını vurgulayan Prof. Dr. Burhan Pektaş, “Kişisel bilgilerinizi toplumsal medyada ve öteki çevrimiçi platformlarda paylaşma konusunda dikkatli olun.” ikazında bulundu.
Üsküdar Üniversitesi Mühendislik ve Tabiat Bilimleri Fakültesi (MDBF) Dekan Yardımcısı, Bilgisayar Mühendisliği (İng) Kısmı Lideri Prof. Dr. Burhan Pektaş, yapay zeka ve bilişim hataları konusunu kıymetlendirdi.
Yapay zekanın gelecekteki gelişimi belirsiz…
Yapay zekanın (AI) gelecekteki gelişiminin hayli bilinmeyen olduğunu söz eden Prof. Dr. Burhan Pektaş, şunları lisana getirdi:
“Ancak bilim topluluğunun yapay zekanın geleceğini tartışırken dikkate aldığı çeşitli eğilimler ve potansiyel senaryolar var. Örnek vermek gerekirse; yapay zekanın vakitle daha karmaşık ve yetenekli hale gelmesi olasıdır. Makine tahsili, hudut ağları ve öteki yapay zeka teknolojilerindeki ilerlemeler, karmaşık misyonları daha yüksek verimlilik ve doğrulukla gerçekleştirebilen sistemlere yol açabilir.”
Gizlilik sıkıntıları ve mümkün berbata kullanımla ilgili telaşlar var!
Yapay zeka teknolojileri ilerledikçe etik konular, kapalılık sıkıntıları ve muhtemel berbata kullanımla ilgili telaşlar ve tartışmaların artacağına da işaret eden Prof. Dr. Burhan Pektaş, “Yapay zeka sistemlerinin sorumlu bir halde geliştirilmesini ve konuşlandırılmasını sağlamak için bilim topluluğunun ve siyaset yapıcıların bu zorlukları ele alması gerekecektir. Yapay zekanın sıhhat ve eğitimden ulaşım ve cümbüşe kadar günlük hayatın çeşitli istikametlerine daha fazla entegre olması bekleniyor. Bu entegrasyon, verimliliğin ve rahatlığın artmasını sağlayabilir lakin tıpkı vakitte toplumsal tesirler ve işten çıkarmalarla ilgili soruları da gündeme getirir.” dedi.
Yapay zeka işsizliğe neden olabilir mi?
Yapay zekanın pek çok yarar sağlama potansiyeline sahipken birebir vakitte telaşları ve potansiyel riskleri de beraberinde getirdiğini anlatan Prof. Dr. Burhan Pektaş, şunları lisana getirdi:
“Yapay zeka gelişiminin etik, toplumsal ve ekonomik sonuçlarını dikkate almak değerlidir. Otomasyon ve yapay zeka, makul bölümlerde işlerin yerinden edilmesine yol açarak potansiyel olarak ekonomik aksamalara ve işsizliğe neden olabilir. Bu değerli bir telaş kaynağıdır ve işgücüne yine maharet kazandırma ve yeni iş fırsatları yaratma gayretleri hayati değer taşıyacaktır.
Yapay zeka sistemleri, kendilerini eğitmek için kullanılan bilgilerde mevcut olan önyargıları devralabilir ve bu da adil olmayan yahut ayrımcı sonuçlara yol açabilir. Düzgün bir formda ele alınmazsa, bu önyargı mevcut toplumsal eşitsizlikleri güçlendirebilir ve işe alma, borç verme ve ceza adaleti üzere alanlarda adil olmayan muameleye yol açabilir.
Yapay zeka sistemleri kritik altyapıya daha fazla entegre epeyce, siber hücum ve makus niyetli kullanım riski de artıyor. Bilgisayar korsanları, bilgileri manipüle etmek, hizmetleri kesintiye uğratmak ve hatta otonom araçlar yahut endüstriyel sistemler kelam konusu olduğunda fizikî ziyana neden olmak için yapay zeka sistemlerindeki güvenlik açıklarından yararlanabilir.”
Yapay zeka siber güvenlik savunmalarını geliştirmek için güçlü bir araç olabilir
Yapay zeka (AI) teknolojilerinin siber güvenlik üzerinde ikili bir tesirinin olduğunu lisana getiren Prof. Dr. Burhan Pektaş, “Yapay zeka, bir yandan siber güvenlik savunmalarını geliştirmek, tehdit algılamayı otomatikleştirmek ve olaylara müdahaleyi düzgünleştirmek için güçlü bir araç olabilir. Öte yandan siber hatalılar, daha karmaşık ve amaca yönelik taarruzlar geliştirmek için yapay zekadan potansiyel olarak yararlanabilirler.” dedi.
Prof. Dr. Burhan Pektaş, yapay zekanın siber güvenliği ve siber kabahatleri etkileme yollarından kimilerini şöyle sıraladı:
“Hedefli taarruzlar: Siber hatalılar, son derece şahsileştirilmiş ve ikna edici içeriğe sahip maksat odaklı kimlik avı kampanyaları üzere daha karmaşık ve amaçlı taarruzlar gerçekleştirmek için potansiyel olarak yapay zekayı kullanabilir.
Otomatik suistimaller: Yapay zeka, güvenlik açıklarını belirleme ve bunlardan yararlanma sürecini otomatikleştirerek saldırganların operasyonlarını ölçeklendirmesini kolaylaştırabilir.”
Yapay zeka tabanlı tespit sistemlerini manipüle etmek için teknikler kullanılabilir
Saldırganların, tespit sistemlerinden kaçabilecek rakip girdiler sunarak yapay zeka tabanlı tespit sistemlerini manipüle etmek için teknikler kullanabileceğini anlatan Prof. Dr. Burhan Pektaş, “Siber hatalılar, güvenlik sistemleri tarafından kullanılan savunma düzeneklerini incelemek ve bunlara ahenk sağlamak için yapay zekayı kullanabilir, bu da onların taktiklerini varsayım etmeyi ve bunlara karşı koymayı daha sıkıntı hale getirebilir.” dedi.
Sahte içerik oluşturma…
Prof. Dr. Burhan Pektaş, yapay zeka tarafından oluşturulan deepfake (sahte) içeriklerin bireyleri yahut kuruluşları aldatmak için gerçekçi görünen fakat uydurma sesli yahut manzaralı iletiler oluşturarak toplumsal mühendislik akınları için kullanılabileceğini kaydederek, “Yapay zekanın evrimi, siber tehditlere yeni boyutlar kazandırarak saldırganların yapay zekayı berbat emellerle kullanma potansiyeline sahip olmasını sağladı.” diye konuştu.
Siber hücum için kimlik avı e-postaları oluşturulabilir
Saldırganların siber ataklarını geliştirmek için yapay zekayı berbata kullanabileceği çeşitli yollar olduğunu da tabir eden Prof. Dr. Burhan Pektaş, “Saldırganlar, yüksek seviyede maksada yönelik ve ikna edici kimlik avı e-postaları oluşturmak maksadıyla büyük bilgi kümelerini ve toplumsal medya profillerini tahlil etmek için yapay zekayı kullanabilir. Bu, bireylerin legal ve berbat niyetli iletileri ayırt etmesini zorlaştırır.” dedi.
Hedefteki kişi kimliğine bürünerek ikna edici ses ve görüntü kayıtları oluşturabilir
Yapay zekanın, klasik imza tabanlı antivirüs tahlillerinden kaçmak için kodunu ve görünümünü dinamik olarak değiştirebilen, çok biçimli, berbat emelli yazılım oluşturmak için kullanılabileceğini de kaydeden Prof. Dr. Burhan Pektaş, “Yapay zeka algoritmaları, makûs gayeli yazılım çeşitlerinin oluşturulmasını otomatik hale getirebilir, bu da güvenlik sistemlerinin tehditlerin hacmine ve çeşitliliğine ayak uydurmasını zorlaştırır. Saldırganlar, legal şahısların kimliğine bürünerek ikna edici ses ve görüntü kayıtları oluşturmak için yapay zeka tarafından oluşturulan deepfake teknolojisini kullanabilir. Bu, toplumsal mühendislik taarruzları yahut yanlış bilgi yaymak için kullanılabilir.”
Yapay zeka dayanaklı sohbet robotlar kamuoyunu manipüle etmek için kullanılabilir
Yapay zeka dayanaklı sohbet robotları yahut toplumsal botların, çevrimiçi etkileşimlerde insan davranışını taklit etmek, dezenformasyon yaymak, toplumsal mühendislik akınları gerçekleştirmek yahut kamuoyunu manipüle etmek için kullanılabileceğini de anlatan Prof. Dr. Burhan Pektaş, “Saldırganlar, güvenlik hedefiyle kullanılan yapay zeka modellerinin eğitim datalarını manipüle etmeye çalışabilir.” diye bilgi verdi.
Kişisel bilgilerin güvenliği
Yapay zekanın, ferdî data güvenliği üzerinde değerli bir tesirinin var olduğunu, etik ve kapalılık telaşlarının da ortaya çıktığını söz eden Prof. Dr. Burhan Pektaş, “Yapay zeka sistemleri eğitim için çoklukla kapsamlı data kümelerine dayanır. Bu bilgi kümeleri hassas ferdî bilgiler içerdiğinde etik korku ortaya çıkıyor ve bilgi toplamanın kapsamı ve gerekliliği hakkında sorular ortaya çıkıyor. Etik uygulamalar, bireylerin şahsî datalarını toplamadan ve işlemeden evvel aydınlatılmış onamlarının alınmasını içerir. Dataların nasıl kullanılacağını açıklamanın şeffaflığı çok kıymetlidir.” dedi.
Bilişim cürümlerine karşı korunmak için bireyler ve kurumlar neler yapabilir?
Siber cürümlere karşı muhafazanın, proaktif tedbirlerin, güvenlik uygulamalarının ve daima dikkatin bir kombinasyonunu içerdiğini kaydeden Prof. Dr. Burhan Pektaş, siber güvenliğin artırılmasına yönelik hem bireylere hem de kurumlara yönelik tekliflerini şöyle sıraladı:
Güçlü ve eşsiz şifreler kullanın: Karmaşık şifreler oluşturun ve birebir şifreyi birden fazla hesapta kullanmaktan kaçının. Güçlü, eşsiz şifreler oluşturmak ve saklamak için bir şifre yöneticisi kullanmayı düşünün.
Çok faktörlü kimlik doğrulamayı (MFA) etkinleştir: Parolaların ötesinde ekstra bir güvenlik katmanı eklemek için mümkün olan her yerde MFA’yı uygulayın.
Yazılımı aktüel tutun: Güvenlik açıklarını düzeltmek ve güvenliği artırmak için işletim sistemlerini, yazılımları ve uygulamaları nizamlı olarak güncelleyin.
E-postalara karşı dikkatli olun: Şüpheli irtibatlara tıklamaktan yahut bilinmeyen kaynaklardan ekleri indirmekten kaçının. E-postaların, bilhassa de hassas bilgiler isteyen e-postaların meşruiyetini doğrulayın.
Güvenli Wi-Fi ağlarını kullanın: Ev Wi-Fi ağlarını güçlü parolalar ve şifrelemeyle koruyun. VPN kullanmadığınız sürece hassas süreçler için halka açık Wi-Fi kullanmaktan kaçının.
Güvenlik yazılımını kurun ve güncelleyin: Saygın bir antivirüs ve makûs gayeli yazılımdan muhafaza yazılımı yükleyin ve şimdiki tutun.
Önemli bilgileri yedekleyin: Kritik dataları nizamlı olarak harici bir aygıta yahut inançlı bir bulut hizmetine yedekleyin.
Haberdar olun: Saygın kaynaklar aracılığıyla şimdiki siber tehditler ve en yeterli güvenlik uygulamaları hakkında yeni bilgilere sahip olun.
Kişisel bilgi paylaşımını sınırlayın: Kişisel bilgilerinizi toplumsal medyada ve öteki çevrimiçi platformlarda paylaşma konusunda dikkatli olun
Kaynak: (BYZHA) Beyaz Haber Ajansı
