Sorun
Yapay zekâ özellikleri artık neredeyse her tür iş yazılımında yer alıyor. Pek çok durumda gerçekten faydalılar: metin taslağı hazırlamak, kayıtları özetlemek, eksiklikleri işaret etmek. Ancak yapay zekâyı abartmak da kolaydır. "Yapay zekâ destekli onay" veya "otomatik kök neden tespiti" olarak tanımlanan bir özellik, günümüz yapay zekâ sistemlerinin taşıyamayacağı bir güvenilirlik ve sorumluluk düzeyi ima eder.
İş sağlığı ve güvenliği, olay araştırması ve sporcu gelişimi gibi profesyonel alanlarda bu fark önemlidir. Bu alanlardaki kararlar insanların güvenliğini, itibarını ve bazen sağlığını etkiler.
Neden önemli?
Yapay zekâ modelleri akıcı ve kendinden emin, ancak eksik veya hatalı çıktılar üretebilir. Kendilerine bu bilgiler verilmedikçe sahayı, insanları veya geçmişi bilmezler; verildiğinde bile yanlış yorumlayabilirler. Bir karardan dolayı sorumlu tutulamazlar.
Yapay zekâ çıktısı bir girdi yerine karar olarak ele alındığında çeşitli riskler ortaya çıkar:
Onaylayanlar yapay zekâya güvenir ve izni dikkatle okumayı bırakır.
Araştırmacılar önerilen bir nedeni kanıtla sınamadan kabul eder.
Kullanıcılar genel rehberliği kişisel tıbbi veya mesleki tavsiye olarak algılar.
Sorumluluk belirsizleşir: Kararı kişi mi verdi, sistem mi?
Öte yandan yapay zekâyı hiç kullanmamak, gerçek faydaları kaçırmak anlamına gelebilir. Yerinde bir öneri veya ikinci görüş niteliğinde bir inceleme, yoğun bir profesyonelin gözden kaçırdığı bir şeyi yakalayabilir.
Pratik bir yaklaşım
Profesyonel yazılımda yapay zekâyı düşünmenin faydalı bir yolu, yardımı karardan ayırmaktır.
Yapay zekâ makul olarak şunları yapabilir:
Sorular, olası eksiklikler veya egzersizler gibi dikkate alınacak konular önermek,
İçeriği incelemek ve ikinci bir görüş olarak kontrol edilmesi gereken noktalara dikkat çekmek,
Bir kişinin okuyacağı, düzenleyeceği veya reddedeceği metin taslakları hazırlamak,
Zaman kazandırmak için kayıtları özetlemek.
Yapay zekâ şunları yapmamalıdır:
İşi onaylamak veya işin güvenli olduğunu ilan etmek,
Güvenlik açısından kritik kararları kendi başına vermek,
Kök nedenleri teyit etmek veya bir araştırmayı sonuçlandırmak,
Tıbbi teşhis koymak veya tıbbi tavsiye vermek,
Bir kişinin işlemi olmadan kayıtları, planları veya yetkileri değiştirmek.
Birkaç tasarım ilkesi yapay zekâyı yerinde tutmaya yardımcı olur. Yapay zekâ çıktısı açıkça etiketlenmelidir. Bir öneri resmî bir kaydın parçası olmadan önce bir kişi tarafından açıkça kabul edilmelidir. Resmî kayıtlar, onaylar ve yayımlanan raporlar sorumluluk taşıyan insanların işi olarak kalmalıdır. Ürün de yapay zekâsının ne yaptığı ve ne yapmadığı konusunda dürüst olmalıdır.
Temel ilke basittir: Yapay zekâ yardımcı olur; kararı insanlar verir.
İyi bir sistem neler sağlamalı?
Yapay zekâyı sorumlu biçimde kullanan profesyonel yazılım:
Yapay zekâ çıktısını resmî kararlardan ayrı, tavsiye niteliğinde sunmalı,
Onayları ve imzaları yetkili kişilerde tutmalı,
Yapay zekâ önerileri resmî kayıtlara girmeden önce insan onayı istemeli,
Tıbbi veya teşhise yönelik iddialardan kaçınmalı ve yapay zekânın ihtiyaç duymadığı hassas bilgileri çıkarmalı,
Hangi yapay zekâ özelliklerinin şu anda kullanılabilir olduğu ve hangilerinin hâlâ geliştirilmekte olduğu konusunda açık olmalıdır.
Sospita bu ilkeyi nasıl uyguluyor?
Sospita yapay zekâyı, her biri tanımlı sınırlara sahip az sayıda belirli yerde kullanır.
Sospita SafeGuard: Yapay zekâ izin incelemesi (şu anda kullanılabilir). Onay öncesinde izin içeriğinin yapay zekâ ile incelenmesi, tavsiye niteliğinde öneriler sunar. İzinleri onaylamaz, işin güvenli olup olmadığına karar vermez ve mesleki muhakemenin yerini almamalıdır. Onay, yetkili iş akışı kullanıcı gruplarında kalır. Bir izin sisteminin neleri kontrol etmesi gerektiği Dijital Bir Çalışma İzni Sistemi Gerçekte Neleri Kontrol Etmeli? yazısında ele alınmaktadır.
Sospita Athletic Performance: Yapay Zekâ Günlük Koç ve Yapay Zekâ Aylık Sporcu Değerlendirmesi (şu anda kullanılabilir). Yapay Zekâ Günlük Koç, oturum açan her kullanıcıya sınırlı sayıdaki izin verilen egzersiz arasından seçilen önerilerle kısa bir günlük mesaj sunar. Tıbbi tavsiye vermez ve tıbbi notlar ile sakatlık notları bilgiler gönderilmeden önce çıkarılır. İsteğe bağlı bir eklenti olan Yapay Zekâ Aylık Sporcu Değerlendirmesi, antrenörün okuması için bir değerlendirme taslağı hazırlar; taslağın oluşturulup oluşturulmayacağına ve nasıl kullanılacağına antrenör karar verir.
Olay Araştırması ve Kök Neden Analizi: Yapay zekâ destekli araştırma (yakında). Araştırmacılara yönelik yapay zekâ desteği geliştirilmiştir, ancak henüz kullanıma sunulmamıştır. Kullanıma sunulduğunda yalnızca öneride bulunacaktır. Her öneri bir kişinin onayını gerektirecek, yapay zekânın önerdiği nedenler aday olarak kalacak ve yapay zekâ nedenleri teyit etmeyecek, aksiyon sorumlusu atamayacak veya yayımlanan raporu yazmayacaktır.
Sospita Risk Assessment ve My Checklists yapay zekâ kullanmaz.
Sınırlamalar ve insan sorumluluğu
Tavsiye niteliğindeki yapay zekânın da sınırları vardır. Önerileri eksik, ilgisiz veya hatalı olabilir; bir yapay zekâ uyarısının bulunmaması da endişelenecek bir şey olmadığı anlamına gelmez. Kullanıcılar yapay zekâ çıktısını birçok girdiden biri olarak ele almalıdır.
Yapay zekâ özellikleri üçüncü taraf modellere de bağlıdır. Davranışları zamanla değişebilir ve hiçbir yapay zekâ incelemesine eksiksiz bir kontrol olarak güvenilmemelidir.
Mesleki muhakeme, hesap verebilirlik ve özen yükümlülüğü insanlarda kalır: izni imzalayan onaylayanda, bir nedeni teyit eden araştırmacıda ve bir sporcuyla çalışan antrenörde. Yazılım bu insanları destekleyebilir. Onların yerini alamaz.