ahmetbeyler
New member
Yapay zeka: öznel bir envanter
Yeni bloğa hoş geldiniz Heise geliştiricisi yapay zeka konusunda sevgili insan. Ve ayrıca sıcak bir karşılama, sevgili araba. Çünkü eminim ki bu metni taramak, analiz etmek, değerlendirmek, kataloglamak, kategorilere ayırmak, yoğunlaştırmak, anahtar kelime yapmak, tercüme etmek ve hatta muhtemelen “mantıklı bir şekilde” eklemek için Doğal Dil İşleme’yi (kısaca NLP) kullanacaksınız.
IT danışmanlık ve geliştirme şirketi açık bilgi GmbH’nin kurucusu Lars Röwekamp, ”CIO New Technologies” olarak görevinin bir parçası olarak yeni yazılım ve teknoloji trendlerinin ayrıntılı analizi ve değerlendirilmesi ile özel bir dikkatle ilgilenmektedir. makine öğrenimi ve bulut bilgi işlem alanlarına. Çalışmalarının özel bir odak noktası, makine öğrenimi tabanlı süreçlerin ve uygulamaların şirketlerin mevcut BT ortamına entegrasyonudur. Müşterileriyle birlikte, makine öğrenimi tabanlı yaklaşımlara dayalı olarak iş süreçlerini genişletme ve optimize etme olasılıklarını ve sınırlamalarını analiz eder ve ekibinin desteğiyle bunları üretime hazır olana kadar uygular. Lars, çok sayıda uzmanlık makalesi ve kitabının yazarıdır.
Neden bir AI blogu?
Neden yapay zeka üzerine bir Haberler blogu? Ve neden şimdi? 1950’de, 70 yılı aşkın bir süre önce, Alan Turing, Captcha biçiminde hala günde milyonlarca kez kullandığımız ünlü Turing testini buldu (ctamamen aotomatik polağan Tsöylemek için kanıt arıyor cbilgisayarlar ve hinsanlar akısmı) karşılaştı. Ve oldukça ilkel olduğu kabul edilen ilk sohbet robotu ELIZA, 1966’da MIT’de J. Weizenbaum tarafından geliştirildi.
Diyagram, makine öğrenimi alt disiplini ve derin öğrenme alt disiplini ile yapay zeka disiplininin tarihsel gelişimini göstermektedir (Şekil 1).
(Resim: açık bilgi)
Yapay zeka ve blog yazmak birkaç yıl gecikmiş değil mi? Bu sorunun cevabı basit olduğu kadar zorlayıcı da: Günümüzde yapay zeka artık bir niş araştırma alanı değil, uygulamaya girdi ve bu nedenle, katılsak da katılmasak da her birimizin günlük hayatını etkiliyor. Yapay zeka, on yıl önce akademide hâlâ çoğunlukla evindeyken, konu yapay zeka olduğunda, birkaç yıldır birçok şirkette altına hücum havası var. AI kullanımıyla potansiyel olarak neyi tetiklediklerinin kapsamı her zaman farkında görünmüyor.
AI ve gerçek dünya zorlukları
AI/ML’nin gerçek (iş) dünyasına ve dolayısıyla günlük hayatımıza girmesiyle birlikte yeni zorluklar ortaya çıkıyor. Amaç artık laboratuvar koşullarında oldukça optimize edilmiş bir tahmin sonucunun elde edilmesi değil, sadece bir modelin pratik uygunluğudur. Ve bu hem modelin tasarımı ve eğitimi sırasında hem de uygulama sırasında ve dolayısıyla üretken kullanımda.
Eğitim için ihtiyaç duyduğunuz verileri elde etmek ne kadar kolay? En azından hangi kaliteye sahip olmalılar? Ve verilerin istenmeyen yanlılığa yol açmamasını nasıl sağlıyorsunuz? Model, mevcut yazılım ortamına nasıl entegre olur? Makine öğrenimi geliştirme süreci, dahili yazılım geliştirme yaşam döngüsüyle nasıl etkileşime giriyor?
Modelin sürdürülebilirliği sorusu da ortaya çıkıyor, çünkü mesele genellikle bir kez harika bir sonuç almak değil, mümkün olduğu kadar uzun süre sürekli olarak iyi sonuçlar almakla ilgili. Bu bağlamda, model gözlemlenebilirliği, veri ve model kayması, yeniden eğitim, CI/CD ardışık düzenleri, işbirlikçi eğitim ve geliştirme ortamları veya model ve veri havuzları gibi ek unsurlar devreye giriyor. MLOps olarak da adlandırılan, DevOps tabanlı çok heyecan verici yeni bir ortam.
Git ve IBM altyapısına dayalı daha örnek bir MLOps ortamı (Şekil 2)
(Resim: MLOps Kılavuzu)
Elbette, model performansı veya doğruluğu hala önemli bir rol oynamaktadır. Ancak uygulamada, %70 doğruluğa sahip modeller zaten iyi kabul edilir ve %80 veya daha iyi doğruluğa sahip modeller çok iyi kabul edilir. Spesifikasyona göre kural tabanlı yazılım uygulamaya alışkınsanız, oldukça düşük değerler. Ancak fark tam da buradadır, çünkü yapay zekaya dayalı sistemler basit bir spesifikasyonla temsil edilemez, karmaşık verilerdeki örüntüleri tanımaya ve sonuçlar veya tahminler ve bunların olasılıklarını türetmeye çalışır. Bu nedenle tanım gereği %100 doğruluk imkansızdır.
Karşılaştırma, geleneksel programlama ile makine öğrenimi arasındaki kavramsal farkı göstermektedir (Şekil 3).
(Resim: açık bilgi)
Çoğu durumda, AI tabanlı çözümlerin bariz yanlışlığı artık bir trajedi değil. Uygulamada, otomatik metin çevirisi, lojistik optimizasyonu veya satış tahmini gibi senaryolar, optimum bir sonuca ulaşmaktan çok genel iyileştirme ile ilgilidir. “Her şey hiç yoktan iyidir” uygun slogan olabilir. Az önce belirtilen uygulama alanlarındaki bir model, fayda maliyetleri aşarsa her zaman yeterince iyi kabul edilir.
Bununla birlikte, yanlış tahminlerin – yani eksik yüzde 10-30’un – ölümcül sonuçlara yol açabileceği uygulama alanlarında durum farklıdır. Tipik örnekler, kritik bileşenlerin üretiminde kalite güvencesi, tıbbi tahmin, otonom sürüş ve hatta yapay zeka destekli silah sistemleridir. Burada yapay zeka ile paralel olarak her zaman insanı dahil etmek ve gerekirse yapay zeka öngörüsüne dayalı olarak herhangi bir işlem yapılmadan önce düzeltme yapmak zorunludur.
İnsanlardan ve makinelerden
Yapay zeka ortamında, insanlar farklı yerlerde önemli bir rol oynamaktadır. Bir yandan, bir yapay zekanın kararlarının veya tahminlerinin bir yararlanıcısı ama aynı zamanda bir kurbanıdır. Bir web platformundan kişiselleştirilmiş bir tavsiye, bankalar ve sigorta şirketleri gibi kullanmayı sevdiği bir puanlama sistemi içindeki bir sıralama veya yapay zeka destekli bir işe alım süreci fark etmez. Sonunda her zaman insan vardır. İnsanların geri çekilecek alternatifleri olduğu sürece bu kritik değildir. Bu alternatifler mevcut olmadığında her zaman kritik hale gelir.
Popüler olumsuz örnekler arasında, yapay zeka kullanılarak optimize edilmesi gereken ve sağlık hizmetlerinin tahsisinde Afro-Amerikan kökenli insanlara dezavantajlı olduğu gösterilen ABD sağlık sistemi yer alıyor (bkz. Amerikan Tabipler Birliği ) veya Amazon’un nihayetinde kadınlara karşı ayrımcılık yapan ve bu nedenle oldukça hızlı bir şekilde eski durumuna getirilen yapay zeka destekli işe alma girişimi.
Bununla birlikte, insanlar yalnızca yapay zekanın kullanıcıları değil, aynı zamanda tasarımcılarıdır ve bu nedenle eğitim için kullanılan modelin ve verilerin kalitesinden ve çalışan yapay zeka sistemini izlemekten ve onu sürekli değişen bir ortama uyarlamaktan da sorumludur. Bu bağlamda, Stanford Üniversitesi’nde 2018 yılında yapılan bir araştırma, başarılı bir makine öğrenimi modeli için insanları sürekli olarak haberdar etmenin ne kadar önemli olduğunu gösteriyor.
HITL (İnsan-in-the-Loop) ilgili kısaltmadır. HITL, insanların makineler tarafından alınan kararları veya bunların bireyler veya insan grupları üzerindeki etkilerini izlemelerini ve gerekirse düzeltici önlemler almalarını gerektirir. Farklı insan gruplarının çıkarları çatışırsa, bu insan “denetleyici” tarafından da dikkate alınır (bkz. Şekil 4).
Döngüdeki İnsan: denetleyiciler olarak insanlar (Şekil 4)
(Resim: açık bilgi)
AI sistemlerinin devlet kontrolüne yönelik çağrı da güçleniyor. Bu nedenle, AI modellerini bireyler veya insan grupları için potansiyel olarak olumsuz etkiler açısından sınıflandırmak ve kategoriye göre koşullar dayatmak için çeşitli düzeylerde çaba gösterilmesi şaşırtıcı değildir.
En basit varyantta, tahmin için kullanılan yöntemi adlandırmak için bir AI sistem satıcısı gerekebilir. Bu, kullanıcının tahminin kalitesini daha iyi değerlendirmesine yardımcı olur. Yararlı senaryolar, çevrimiçi mağazalarda veya çevirilerde kişisel öneriler olacaktır. Her iki durumda da, kötü AI’nın kişisel hasarı artık kritik değil. Bununla birlikte, tahminin “kime” ait olduğunu bilmek isteyebilir.
AI kararının bireyler veya insan grupları üzerindeki etkisi daha belirginse, tahminden sorumlu faktörlerin açıklanması gerekliliği de olabilir. Bu, AI’nın kararını anlaşılır hale getirir ve bir kullanıcıya, örneğin bir kredinin neden onaylanmadığını veya kendi sigorta poliçelerinin neden komşularınınkinden daha pahalı olduğunu gösterir.
Şimdiye kadar verilen örneklerde, AI kullanıcısı her zaman alternatif sağlayıcılara geçme seçeneğine sahip olacaktı. Ancak, örneğin yapay zeka destekli bağımlı bir uygulama söz konusu olduğunda bu seçenek mevcut değilse ne olur? Dolayısıyla düzenlemeler, insanların her zaman AI sonucunu reddetme ve AI tarafından desteklenmeyen bir varyantı seçme seçeneğine sahip olmasını şart koşabilir.
Bu bağlamda elbette yapay zeka tabanlı sistemlerin genellikle hangi senaryolarda kullanılmaması gerektiğini de düşünmek gerekiyor. Bu konuda birçok tartışma var. Özellikle yapay zekanın kararı bir insana ciddi zararlar verebileceği zaman. Uç bir örnek, uluslararası aranan teröristleri ortadan kaldırmak için yüz tanımaya dayalı bir silahlı insansız hava aracı sistemi olabilir.
Tüm hususlar dikkate alındığında, bir yapay zekanın her zaman olasılıklar temelinde çalıştığını ve bu nedenle hiçbir zaman %100 güvenlik sağlamadığını unutmamak önemlidir.
Konu hakkında daha fazla bilgi edinmek istiyorsanız, AB’nin Yapay Zeka Yasası hakkındaki yayını ve Yapay Zeka Üzerine Haklar Yasası: ABD, algoritmalarla ayrımcılığı önlemek istiyor başlıklı makaleyi öneririz.
Son olarak, bir makinenin “insan ve makine” temasını nasıl yorumladığına hızlı bir bakış. Şekil 5, açıklama için DALL-E 2 tarafından oluşturulan bazı görüntüleri göstermektedir”İnsan olmanın nasıl bir şey olduğunu düşünen bir yapay zekanın gerçekçi bir tablosu.“. Bir tür insan, değil mi?
bir makinenin bakış açısından “insanların ve makinelerin” (Şekil 5)
(Fotoğraf: DALL-E 2)
Devam ediyor…
Yeni Haberler geliştirici blogu “insanlar ve makineler” ile bu makalede ele alınan konuların ve yönlerin çoğunu ele alıp derinleştireceğim.
Bu amaçla, pratik uygulama senaryolarını örneklendirip etik yönlerini tartışacağım, ayrıca ML modelleri alanındaki güncel gelişmeleri derleyip perde arkasına bir göz atacağım. Tabii ki, makine öğrenimi geliştiricisi için araçlar, çerçeveler ve kitaplıklar da sunacağım ve MLOps sürecine ve tuzaklarına defalarca ışık tutacağım.
Bütün bunlar “İnsanlar Döngüde” sloganına sadıktır. Bu nedenle, tartışmak istediğiniz herhangi bir konu varsa, onları bana getirebilirsiniz. Bu anlamda “bağlı kalın!”.
(rm)
ana sayfaya