Microsoft Sorumlu Yapay Zeka Standartları Genel Gereksinimler

Microsoft Sorumlu Yapay Zeka Standartları, sorumlu yapay zeka için ürün geliştirme gereksinimlerini tanımlamaya dönük uzun yıllardır süren çalışmaların bir ürünüydü. Sorumlu Yapay Zeka Standartlarının bu ikinci versiyonunu, öğrendiklerimizi başkalarıyla da paylaşmak, kurum dışından geri bildirimler almak ve yapay zeka konusundaki kural ve uygulamaları iyileştirmek için yapılan fikir alışverişlerine katkıda bulunmak gibi amaçlarla kullanıma sunuyoruz.

Bu makale Microsoft’un Haziran 2022 tarihli aşağıdaki linkte bulunan İngilizce metinden tercüme edilmiştir.

Kaynak: https://msblogs.thesourcemediaassets.com/sites/5/2022/06/Microsoft- Responsible-AI-Standard-v2-General-Requirements-3.pdf

MİCROSOFT Sorumlu Yapay Zeka Standartları V2 Hakkında Bilgiler

Microsoft’un altı temel yapay zeka ilkesini hayata geçirmeye başladığımız dönemde, politika ve standartlar açısından bir boşluk olduğunu biliyorduk. O dönemde kural ve düzenlemeler , yapay zekaya özgü risk/tehditler ile toplum ihtiyaçlarıyla uyum sağlayamamıştı. Yine de ürün geliştirme ekiplerimiz, ilkelerimizin anlamı ve uygulanması konusunda rehberliğe ihtiyacı duyuyordu. Bu noktada rehberlik edebilmek için ARGE, yönetim ve mühendislik ekiplerimizin uzmanlıklarından yararlandık.

Bu standartlar, Microsoft’un Sorumlu Yapay Zeka yolculuğunda önemli bir adım olsa da, uygulamada ilerleme kaydettikçe, durup düşünmemizi ve ayarlamalar yapmamızı gerektirecek problemlerle karşılaşacağımızı biliyoruz. Bu çalışma şirket içi ya da dışından her türlü bilgiyi, güncel araştırma sonuçlarını, son teknolojileri, yasal düzenlemeleri ve yeni tecrübeleri kapsayacak şekilde sürekli gelişen, yaşayan bir metin olarak kalacaktır.

Bugün organizasyonların yapay zeka teknolojilerini sorumlu bir şekilde geliştirip paylaşmasını sağlamak için kural ve esasların neler olması gerektiğine dair zengin ve canlı bir küresel diyalog zemini oluşmuştur. Bizde bu imkandan faydalandık ve bu diyaloğa katkıda bulunmaya devam edeceğiz. Endüstrilerin, akademi dünyasının, sivil toplumun ve hükümetlerin teknolojik gelişme için işbirliği yapmaları ve birbirlerinden öğrenmeleri gerektiğine inanıyoruz. Hep beraber, açık araştırma sorularını yanıtlamalı, ölçümlemelerdeki boşlukları gidermeli ve yeni uygulamalar, yeni partnerler, yeni kaynaklar ve yeni araçlar tasarlamalıyız.

Yolculuğumuza devam ederken, yaklaşımımız hakkındaki geri bildirimlerinizi ve ileriye dönük diğer yollara ilişkin görüşlerinizi bizimle paylaşabilirsiniz: https://aka.ms/ResponsibleAIQuestions.

Metinde Yapay Zeka (YZ) şeklinde kısaltılmıştır.

Hesap Verebilirlik Hedefleri Hedef A1 : Etki değerlendirmesi

Microsoft YZ sistemleri Etki Değerlendirmeleri kullanılarak değerlendirilir. Uygulama alanı : Tüm YZ sistemleri.

Gereksinimler

A1.1 Sistem geliştirmenin ilke aşamalarında genellikle de ürün vizyonunun ve gereksinimlerinin tanımlandığı sırada, Etki Değerlendirmesi yaparak sistemin insan, kuruluş ve toplum üzerindeki etkilerini değerlendirin. Yapılan faaliyetleri, Sorumlu YZ Birimi tarafından hazırlanan Etki Değerlendirmesi şablonunu kullanarak dokümante edin. Etiketler: Etki değerlendirmesi

A1.2 Tamamlanan Etki Değerlendirmesini, ürün geliştirme başlamadan önce kuruluşunuzun uyumluluk proseslerine göre belirlenmiş gözden geçirenler/denetçiler ile inceleyin. Gözden geçirenlerden gerekli tüm onayları alın.
Etiketler: Etki değerlendirmesi

A1.3 Etki Değerlendirmesini en az yılda bir kez, yeni amaçlanan kullanımlar eklendiğinde ve yeni bir sürüm aşamasına geçmeden önce güncelleyin ve gözden geçirin.
Etiketler: Etki değerlendirmesi

HESAP VEREBİLİRLİK HEDEFLERİ Hedef A1 : Etki değerlendirmesi

Microsoft YZ sistemleri Etki Değerlendirmeleri kullanılarak değerlendirilir. Uygulama alanı : Tüm YZ sistemleri.

Gereksinimler

Etiketler: Etki değerlendirmesi

Hedef A2 : Önemli olumsuz etkilerin gözetimi

Microsoft YZ sistemleri, insan, kuruluş ve toplum üzerinde önemli ölçüde olumsuz etkilere sahip olabilecek sistemleri belirlemek için gözden geçirilir ve bu sistemlere ek gözetim ve gereksinimler uygulanır.

Uygulama alanı : Tüm YZ sistemleri.

Gereksinimler

A2.1 Sistemin herhangi bir Kısıtlanmış Kullanım tanımını karşılayıp karşılamadığını belirlemek için tanımlanmış Kısıtlanmış Kullanımları gözden geçirin. Karşılıyorsa, bunu Etki Değerlendirmesinde belirtin ve Kısıtlanmış Kullanım gereksinimlerini karşılayın.
Etiketler: Etki değerlendirmesi

A2.2 Sistemin Hassas Kullanım tanımını karşılayıp karşılamadığını belirlemek için Etki Değerlendirmesi şablonundaki istemleri yanıtlayın. Karşılıyorsa, bunu Sorumlu YZ Birimi’ne bildirin ve Hassas Kullanımlar incelemesinden kaynaklanan ek gereksinimlerini karşılayın. Etiketler: Etki değerlendirmesi

A2.3 Sistemlerinizi en az yılda bir kez Hassas Kullanım ve Kısıtlanmış Kullanım tanımlarına göre gözden geçirin. Hassas Kullanım kriterlerini karşılayan sistemler varsa, bunları Sorumlu YZ Birimi’ne bildirin. Kısıtlanmış Kullanım kriterlerini karşılayan sistemler varsa, Sorumlu YZ Birimi’ni bilgilendirin.

Hedef A3 : Amaca uygunluk
Microsoft YZ sistemleri; çözmek için tasarlandıkları problemlere geçerli çözümler sunmaları

anlamında amaca uygundur.
Uygulama alanı : Tüm YZ istemleri.

Gereksinimler

A3.1 Etki Değerlendirmesinde, sistemin kullanımının her bir amaçlanan kullanım tarafından ortaya konan problemi nasıl çözeceğini belgeleyin ve çözümün için birden fazla yolu olabileceğini kabul edin.
Etiketler: Etki değerlendirmesi

A3.2 YZ sistemindeki her model için aşağıdakileri tanımlayın ve belgeleyin:

1) Modelin önerilen girdileri ve bunların temsil etmeyi amaçladıkları kavramları ne kadar iyi temsil ettikleri; (temsilin sınırlamalarının analizini de dahil edin.)
2) Modelin önerilen çıktısı ve bunun temsil etmeyi amaçladığı kavramı ne kadar iyi temsil ettiği; (temsilin sınırlamalarının analizini de dahil edin.)
3) Kullanılacak eğitim ve test verilerine dayalı olarak ortaya çıkan modelin genelleştirilebilirliğine dair sınırlamaları.

A3.3 Bu Hedef için Sorumlu Sürüm Kriterlerini tanımlayın ve belgeleyin. Şunları içermelidir:

1) Amaçlanan kullanımda çözülen problemin kısa bir tanımı.
2) Performans metrikleri ve bunların Sorumlu Sürüm Kriterleri.
3) Hata türleri ve bunların Sorumlu Sürüm Kriterleri.

A3.4 Her bir performans metriği ve hata türü için bir değerlendirme planı belgeleyin. Etiketler: Sürekli Değerlendirme Kontrol Noktası

A3.5 Değerlendirmeleri yürütmek için gereksinim A3.4’te tanımlanan yöntemleri kullanın. Değerlendirmelerin sürüm öncesi sonuçlarını belgeleyin. Bu Hedefi desteklemeye devam etmek için sürekli değerlendirmenin ne sıklıkta yapılması gerektiğini belirleyin ve belgeleyin. Etiketler: Sürekli Değerlendirme Kontrol Noktası

A3.6 Müşterilere sistemin aşağıdaki konularını açıklayan belgeler sağlayın:

1) Amaçlanan kullanımları ve
2) Sistemin her bir amaçlanan kullanım için amaca uygun olduğuna dair kanıtlar.

Sistem, dış müşterilere veya ortaklara sunulan bir platform hizmeti olduğunda, bu bilgileri gerekli Şeffaflık Bildirimi ’ne ekleyin.
Etiketler: Şeffaflık Bildirimi

A3.7 Bir amaçlanan kullanım kanıtlarla desteklenmiyorsa veya sistemin amaçlanan kullanım için amaca uygun olduğunu çürüten kanıtlar ortaya çıkarsa, sistemin kullanımının herhangi bir noktasında:

1) Amaçlanan kullanımı müşteriye sunulan materyallerden kaldırın ve müşterileri sorundan haberdar edin, belirlenen boşluğu kapatmak için harekete geçin veya sistemi durdurun.
2) Amaçlanan kullanımla ilgili belgeleri revize edin ve
3) Revize edilmiş belgeleri müşterilere yayınlayın.

Sistem, dış müşterilere veya ortaklara sunulan bir platform hizmeti olduğunda, bu bilgileri gerekli Şeffaflık Bildirimi ’ne ekleyin.

Hedef A4 : Veri yönetişimi ve yönetimi
Microsoft YZ sistemleri, uygun veri yönetişimi ve yönetim uygulamalarına tabidir. Uygulama alanı : Tüm YZ sistemleri.

A4.2 İlgili olduğunda ek açıklama, etiketleme, temizleme, zenginleştirme ve birleştirmeyi içerecek şekilde veri toplama ve işleme prosedürlerini tanımlayın ve belgeleyin.

A4.5 Gereksinim A4.4’te tanımlanan yöntemleri kullanarak tüm veri setlerini değerlendirin. Değerlendirmenin sonuçlarını belgeleyin.

Gereksinimler

A4.1 Sistemin amaçlanan kullanımları, paydaşları ve sistemin konuşlandırılacağı coğrafi alanlarla ilgili olarak veri gereksinimlerini tanımlayın ve belgeleyin. Bu gereksinimleri Etki Değerlendirmesinde belgeleyin.
Etiketler: Etki değerlendirmesi

A4.3 Sistemi eğitmek için mevcut veri setlerini kullanmayı planlıyorsanız, A4.1’de tanımlanan veri gereksinimleriyle ilişkili olarak sistem tarafından ihtiyaç duyulacak mevcut veri setlerinin miktarını ve uygunluğunu değerlendirin. Bu değerlendirmeyi Etki Değerlendirmesinde belgeleyin.

Etiketler: Etki değerlendirmesi

A4.4 Sistem tarafından kullanılacak verileri, A4.1’de tanımlanan gereksinimlere göre değerlendirmek için yöntemler tanımlayın ve belgeleyin.

Hedef A5 : İnsan gözetimi ve kontrolü
Microsoft YZ sistemleri bilgilendirilmiş insan gözetimini ve kontrolünü destekleyen yetenekler

içerir.
Uygulama alanı : Tüm YZ sistemleri.

Gereksinimler

A5.1 Dağıtım sırasında ve sonrasında sistemin sorunlarını gidermek, yönetmek, işletmek, denetlemek ve kontrol etmekten sorumlu paydaşları belirleyin. Bu paydaşları ve onların gözetim ve kontrol sorumluluklarını Etki Değerlendirmesi şablonunu kullanarak belgeleyin. Etiketler: Etki değerlendirmesi

A5.2 Gereksinim A5.1’de tanımlanan paydaşların gözetim sorumluluklarını etkili bir şekilde anlamaları ve yerine getirmeleri için gerekli sistem öğelerini (sistem kullanıcı deneyimi, özellikler, uyarı ve raporlama işlevleri ve eğitim materyalleri dahil) belirleyin. Paydaşlar şunları anlayabilmelidir:

1) Sistemin amaçlanan kullanımları,
2) Sistemle etkileşimlerin etkili bir şekilde nasıl yürütüleceği,
3) Sistem davranışının nasıl yorumlanacağı,
4) Sistemi ne zaman ve nasıl geçersiz kılacağı, müdahale edeceği veya kesintiye

uğratacağı ve
5) Sistem tarafından üretilen çıktılara aşırı güvenme (“otomasyon yanlılığı”) eğiliminin

nasıl farkında olunacağı.
Her bir gözetim ve kontrol işlevi için ilgili paydaşları destekleyecek sistem tasarım öğelerini belgeleyin.

A5.3 Mümkün olduğunda, A5.2’de tanımlanan sistem öğelerini tasarlayın. Bu mümkün olmadığında (örneğin, Microsoft sistem kullanıcı deneyiminden sorumlu olmadığında), A5.2’de tanımlanan sistem öğelerini uygulamaktan sorumlu üçüncü tarafa insan gözetimi hususları hakkında rehberlik sağlayın.

A5.4 Her bir gözetim veya kontrol işlevinin, paydaşlar tarafından sistemin gerçekçi kullanım koşullarında gerçekleştirilip gerçekleştirilemeyeceğini değerlendirmek için kullanılacak yöntemi tanımlayın ve belgeleyin. Değerlendirmelerde kullanılacak metrikleri veya dereceli puanlama anahtarlarını dahil edin. Bu mümkün olmadığında (örneğin, Microsoft gözetim ve kontrol işlevlerinden sorumlu olmadığında), gözetim ve kontrol işlevlerini değerlendirmekten sorumlu üçüncü tarafa gözetim ve kontrol işlevlerini değerlendirme konusunda rehberlik sağlayın.

A5.5 Bu Hedefe ulaşmak için Sorumlu Sürüm Kriterlerini tanımlayın ve belgeleyin.
A5.6 Gereksinim A5.4 ile tanımlanan değerlendirmeleri, sistemin piyasaya sürülmeye çok yakın bir versiyonunu kullanarak yapın. Sonuçları belgeleyin.

Araçlar ve uygulamalar

Öneri A5.3.1 Sistemi tasarlarken İnsan-YZ Etkileşimi Yönergelerini izleyin.
Öneri A5.4.1 Bu değerlendirmeleri tasarlamak için kullanıcı araştırmacılar atayın.

A5.7 Karşılanmamış metrikler veya dereceli puanlama anahtarları için Sorumlu Sürüm Kriterleri varsa, Etki Değerlendirmesinde adı geçen gözden geçirenlerle ve Hassas Kullanımlar durumunda Sorumlu YZ Birimi ile görüşerek, boşluğun kapatılana kadar nasıl yönetileceğini detaylandıran bir plan geliştirin. Bu planı belgeleyin.

Şeffaflık Hedefleri

Hedef T1 : Karar verme için sistem anlaşılırlığı

İnsanlar tarafından veya insanlar hakkında bilgiye dayalı karar vermeyi sağlayan Microsoft YZ sistemleri, sistem davranışının anlaşılırlığı için paydaş ihtiyaçlarını desteklemek üzere tasarlanmıştır.,

Uygulama alanı : Üretilen çıktıların kullanımının amacının insanlar tarafından veya insanlar hakkında bilgiye dayalı karar vermeyi sağlayan tüm YZ sistemleri.

Gereksinimler

T1.1 Şunları belirleyin:

1) Karar vermek için sistemin çıktılarını kullanacak paydaşlar ve
2) Sistem tarafından bilgilendirilen kararlara tabi olan paydaşlar.

Bu paydaşları Etki Değerlendirmesi şablonunu kullanarak belgeleyin. Etiketler: Etki değerlendirmesi

T1.2 Sistemi, mümkün olduğunda sistem kullanıcı deneyimi, özellikler, raporlama işlevleri ve eğitim materyalleri dahil olmak üzere, T1.1 gereksiniminde tanımlanan paydaşların şunları yapabilmesi için tasarlayın:

1) Sistemin amaçlanan kullanımlarını anlamak,
2) İlgili sistem davranışını etkili bir şekilde yorumlamak (yani, bilgiye dayalı karar vermeyi destekleyen bir şekilde) ve
3) Sistem tarafından üretilen çıktılara aşırı güvenme (“otomasyon yanlılığı”) eğiliminin farkında olmak.

T1.1 gereksiniminde tanımlanan iki paydaş kategorisi için şunları belgeleyin:

1) Sistem tasarımının, sistemin amaçlanan kullanımlarını anlamalarını nasıl destekleyeceği ve
2) Sistemin, ilgili sistem yanıtlarını yorumlama yeteneklerine nasıl yardımcı olduğu ve
3) Sistem tasarımının otomasyon yanlılığını nasıl caydırdığı.

T1.3 Karar verecek veya sistemin davranışına dayalı kararlara tabi olacak her bir paydaşın, ilgili sistem yanıtlarını makul bir şekilde yorumlayıp yorumlayamayacağını değerlendirmek için kullanılacak yöntemi tanımlayın ve belgeleyin. Değerlendirmelerde kullanılacak metrikleri veya dereceli puanlama anahtarlarını dahil edin.

Etiketler: Sürekli Değerlendirme Kontrol Noktası

T1.4 Bu Hedefe ulaşmak için Sorumlu Sürüm Kriterlerini içerecek bir Sorumlu Sürüm Planı tanımlayın ve belgeleyin.
Etiketler: Sürekli Değerlendirme Kontrol Noktası

T1.5 T1.3 gereksinimi ile tanımlanan değerlendirmeleri yapın. Değerlendirmelerin sürüm öncesi sonuçlarını belgeleyin. Bu Hedefi desteklemeye devam etmek için sürekli değerlendirmenin ne sıklıkta yapılması gerektiğini belirleyin ve belgeleyin.

T1.6 Karşılanmamış metrikler veya dereceli puanlama anahtarları için Sorumlu Sürüm Kriterleri varsa, Etki Değerlendirmesinde adı geçen gözden geçirenlerle ve Hassas Kullanımlar durumunda Sorumlu YZ Birimi ile görüşerek, boşluğun kapatılana kadar nasıl yönetileceğini detaylandıran bir plan geliştirin. Bu planı belgeleyin.

Araçlar ve uygulamalar

Tavsiye T1.2.1 Sistemi tasarlarken İnsan-YZ Etkileşimi Yönergelerini izleyin.

Tavsiye T1.3.1 Değerlendirmeleri uygun gerçekçi kullanım bağlamlarında tanımlamak, tasarlamak ve önceliklendirmek için kullanıcı araştırmacılar atayın.

Tavsiye T1.2.2 Özelliklerin sistem davranışı üzerindeki etkisini anlamak için Interpret ML araç setinin bir parçası olarak sunulan bir veya daha fazla tekniği kullanın. Bu, model tahminlerini anlaması gereken paydaşlara yardımcı olabilir.

Hedef T2 : Paydaşlarla iletişim
Microsoft, paydaşların bu sistemler hakkında bilinçli seçimler yapmalarını desteklemek için YZ

sistemlerimizin yetenekleri ve sınırlamaları hakkında bilgi sağlar. Uygulama alanı : Tüm YZ sistemleri.

Gereksinimler

T2.1 Şunları belirleyin:

1) Bir sistemi belirli görevler için kullanıp kullanmayacağına karar veren paydaşlar ve
2) Bu sistemle entegre olan sistemleri geliştiren veya dağıtan paydaşlar.

Bu paydaşları Etki Değerlendirmesi şablonunda belgeleyin. Etiketler: Etki değerlendirmesi

T2.2 T2.1’de tanımlanan paydaşların sistemi anlayabilmesi için sistem belgeleri yayınlayın. Şunları içermelidir:

1) Yetenekler,
2) Amaçlanan kullanımlar,
3) Ekstra özen veya rehberlik gerektiren kullanımlar,
4) Etkili ve sorumlu sistem kullanımına izin veren operasyonel faktörler ve ayarlar,
5) Sistemin tasarlanmadığı veya değerlendirilmediği kullanımlar dahil sınırlamalar ve 6) Sistem doğruluğu ve performansına ilişkin kanıtlar ile bu sonuçların değerlendirme

sürecinin parçası olmayan kullanımlarının ne ölçüde genelleştirilebilir olduğuna dair

açıklaması.
Sistem, dış müşterilere veya ortaklara sunulan bir platform hizmeti olduğunda, bir Şeffaflık Bildirimi gereklidir.
Etiketler: Şeffaflık Bildirimi

T2.3 Belgeleri yıllık olarak veya aşağıdaki olaylardan herhangi biri meydana geldiğinde gözden geçirin ve güncelleyin:

1) Yeni kullanımlar eklendiğinde,
2) İşlevsellik değişiminde,
3) Ürün yeni bir sürüm aşamasına geçtiğinde,
4) RS3.3 gereksinimi tarafından tanımlandığı şekilde güvenilir ve güvenli performans hakkında yeni bilgiler elde edildiğinde veya
5) Sistem doğruluğu ve performansı hakkında yeni bilgiler mevcut olduğunda.

Sistem, dış müşterilere veya ortaklara sunulan bir platform hizmeti olduğunda, bu bilgileri gerekli Şeffaflık Bildirimi ’ne ekleyin
Etiketler: Şeffaflık Bildirimi

Hedef T3 : YZ etkileşiminin ifşası

Microsoft YZ sistemleri, insanlara bir YZ sistemiyle etkileşimde bulunduklarını veya yanlışlıkla gerçek gibi görünebilecek görüntü, ses veya video içeriği üreten veya manipüle eden bir sistem kullandıklarını bildirmek için tasarlanmıştır.

Uygulama alanı : Bir YZ sisteminin kullanımda olduğunun koşullardan veya kullanım bağlamından açıkça anlaşılmadığı durumlar dışında, insanlarla etkileşimleri taklit eden YZ sistemleri. Yanlışlıkla gerçek gibi görünebilecek görüntü, ses veya video içeriği üreten veya manipüle eden YZ sistemleri.

Gereksinimler

T3.1 Etki Değerlendirmesi gerekliliklerine uygun olarak, sistemi kullanacak veya sisteme maruz kalacak paydaşları belirleyin. Bu paydaşları Etki Değerlendirmesi şablonunu kullanarak belgeleyin.
Etiketler: Etki değerlendirmesi

T3.2 Sistemi, sistem kullanıcı deneyimi, özellikler, raporlama işlevleri, eğitim materyalleri ve çıktılar dahil olmak üzere, T3.1’de tanımlanan paydaşların, etkileşimde bulundukları veya maruz kaldıkları YZ sisteminin türü hakkında bilgilendirilecek şekilde tasarlayın. Sistem dışında kullanılması amaçlanan herhangi bir görüntü, ses veya video çıktısının YZ tarafından üretildi şeklinde etiketlendiğinden emin olun.

Etiketler: Sürekli Değerlendirme Kontrol Noktası

T3.3 T3.1’de tanımlanan her bir paydaşın, etkileşimde bulundukları veya maruz kaldıkları YZ sisteminin türü hakkında bilgilendirilip bilgilendirilmediğini değerlendirmek için kullanılacak yöntemi tanımlayın ve belgeleyin.
Etiketler: Sürekli Değerlendirme Kontrol Noktası

T3.4 Bu Hedefe ulaşmak için Sorumlu Sürüm Kriterlerini tanımlayın ve belgeleyin. Etiketler: Sürekli Değerlendirme Kontrol Noktası

T3.5 T3.3 gereksinimi ile tanımlanan değerlendirmeleri yapın. Değerlendirmelerin sürüm öncesi sonuçlarını belgeleyin. Bu hedefi desteklemeye devam etmek için sürekli değerlendirmenin ne sıklıkta yapılması gerektiğini belirleyin ve belgeleyin.
Etiketler: Sürekli Değerlendirme Kontrol Noktası

Adalet Hedefleri

Hedef F1 : Hizmet kalitesi
Microsoft YZ sistemleri, marjinalleştirilmiş gruplar da dahil olmak üzere, tanımlanmış demografik gruplar için benzer kalitede hizmet sağlamak üzere tasarlanmıştır.

Uygulama alanı : Sistem kullanıcıları veya sistemden etkilenen farklı demografik özelliklere sahip kişilerin, Microsoft’un sistemi farklı şekilde oluşturarak giderebileceği hizmet kalitesinde farklılıklar yaşayabileceği YZ sistemleri.

Gereksinimler

F1.1 Sistemin konuşlandırılacağı amaçlanan kullanımlara ve coğrafi alanlara dayalı olarak daha kötü hizmet kalitesi riski altında olabilecek, marjinalleştirilmiş gruplar da dahil olmak üzere demografik grupları belirleyin ve önceliklendirin. Şunları içermelidir:

1) Tek bir faktörle tanımlanan gruplar
2) Faktörlerin bir kombinasyonu ile tanımlanan gruplar.

Önceliklendirilen tanımlanmış demografik grupları Etki Değerlendirmesi şablonunu kullanarak belgeleyin.
Etiketler: Etki değerlendirmesi

F1.2 Tanımlanmış demografik grupların kapsayıcılığını değerlendirmek için tüm veri setlerini inceleyin ve boşlukları kapatmak için veri toplayın. Bu süreci ve sonuçlarını belgeleyin.

F1.3 Hedefi desteklemek için gerçekleştireceğiniz değerlendirmeyi tanımlayın ve belgeleyin. Şunları içermelidir:

1) Tüm sisteme ek olarak değerlendirilecek herhangi bir sistem bileşeni,
2) Sistem bileşenlerini ve tüm sistemi değerlendirmek için kullanılacak metrikler
3) Bu değerlendirme için kullanılacak veri setinin bir açıklaması.

Etiketler: Sürekli Değerlendirme Kontrol Noktası

F1.4 Bu Hedefe ulaşmak için Sorumlu Sürüm Kriterlerini aşağıdaki gibi tanımlayın ve belgeleyin: Her metrik için şunları belgeleyin:

1) Tüm gruplar için herhangi bir hedef minimum performans seviyesi ve
2) Gruplar arasındaki hedef maksimum (mutlak veya göreceli) performans farkı.

Etiketler: Sürekli Değerlendirme Kontrol Noktası

F1.5 Sistemi, tanımlanmış Sorumlu Sürüm Kriterlerine göre değerlendirin. Etiketler: Sürekli Değerlendirme Kontrol Noktası

F1.6 Aşağıdaki hedefleri takip etmek için eğitim verileri, özellikler, amaç fonksiyonu ve eğitim algoritması seçimi de dahil olmak üzere sistem tasarımını yeniden değerlendirin:

1) Herhangi bir hedef minimum performans seviyesini karşılamayan herhangi bir tanımlanmış demografik grup için performansı iyileştirmek ve
2) Tanımlanmış demografik gruplar arasındaki performans farklılıklarını en aza indirmek, özellikle hedef maksimumu aşanlara dikkat etmek, bunu yapmanın sistem performansını etkileyebileceğini ve bu tür ödünleşimlerin nasıl yapılacağının nadiren açık olduğunu kabul etmek.

Bu konudaki yaklaşımınızı , ödünleşimleri nasıl tanımlayacağınız ve belgeleyeceğiniz de dahil olmak üzere belirlemek için avukatınıza danışın.
Etiketler: Sürekli Değerlendirme Kontrol Noktası

F1.7 Konuşma tanıma sistemleri için “arka plan gürültüsü” veya yüz tanıma sistemleri için “görüntü çözünürlüğü” gibi durumsal ve diğer operasyonel faktörler gibi, aşağıdakileri açıklayan herhangi bir haklı faktörü belirleyin ve belgeleyin:

1) Tanımlanmış herhangi bir demografik grup için herhangi bir hedef minimum performans seviyesini karşılayamama ve

2) Tanımlanmış demografik gruplar arasında kalan performans farklılıkları Etiketler: Sürekli Değerlendirme Kontrol Noktası

F1.8 F1.4, F1.5 ve F1.6 gerekliliklerinden elde edilen sürüm öncesi sonuçları belgeleyin. Hedefi desteklemeye devam etmek için sürekli değerlendirmenin ne sıklıkta yapılması gerektiğini belirleyin ve belgeleyin.
Etiketler: Sürekli Değerlendirme Kontrol Noktası

F1.9 Müşteriler için aşağıdaki konularda bilgi yayınlayın:

1) Performansın herhangi bir hedef minimum performans seviyesini karşılamayabileceği tanımlanmış demografik gruplar,
2) Tanımlanmış demografik gruplar arasında hedef maksimumu aşabilecek kalan performans farklılıkları
3) Bu performans seviyelerini ve farklılıklarını açıklayan herhangi bir haklı faktör.

Sistem, dış müşterilere veya ortaklara sunulan bir platform hizmeti olduğunda, bu bilgileri gerekli Şeffaflık Bildirimi ’ne ekleyin.
Etiketler: Şeffaflık Bildirimi

Araçlar ve uygulamalar

Tavsiye F1.1.1 Kuzey Amerika’da insanları yaş, cinsiyet kimliği ve soy temelinde tanımlamak için Yaş, Cinsiyet Kimliği ve Soy için En İyi Uygulamaları kullanın.
Tavsiye F1.1.2 Amaçlanan kullanımlar ve coğrafi bölgeler genelinde demografik gruplardaki farklılıkları anlamak için kullanıcı araştırmacılarıyla çalışın.

Tavsiye F1.1.3 Sisteminizin performansını etkileyen faktörleri ve bu faktörlerin bu alandaki tanımlanmış demografik gruplar arasında nasıl değiştiğini anlamak için alana özgü konu uzmanlarıyla çalışın.

Tavsiye F1.1.4 Hizmet kalitesindeki farklılıklarla ilişkili riskleri ve etkileri anlamak için tanımlanmış demografik grupların üyeleriyle çalışın. Bu tartışmaları yürütmek için Topluluk Jürisi (Community Jury) tekniğini kullanmayı düşünün.

Tavsiye F1.2.1 Hassas verilerle çalışmaya yönelik gizlilik kontrollerine özen göstererek, sisteminizi eğitmek ve değerlendirmek için kullanmayı planladığınız veri setlerinde tanımlanmış demografik grupların temsilini anlamak amacıyla Analiz Platformu’nu kullanın.

Tavsiye F1.2.2 Tanımlanmış demografik grupların temsilini bir datasheet üzerinde belgeleyin.
Tavsiye F1.5.1 Sistem için uygunsa, Fairlearn Python araç setinin değerlendirme ve azaltma yeteneklerini kullanın.
Tavsiye F1.5.2 Sistem için uygunsa, performans seviyelerini ve farklılıklarını açıklayabilecek faktörleri anlamaya yardımcı olması amacıyla için Hata Analizi’ni kullanın.

Tavsiye F1.6.1 Sistem için uygunsa, Fairlearn Python araç setinin değerlendirme ve azaltma yeteneklerini kullanın.
Tavsiye F1.6.2 Tanımlanmış demografik gruplar için ek eğitim verileri toplamaya hazırlıklı olun.

Tavsiye F1.7.1 Sistem için uygunsa, performans seviyelerini ve farklılıklarını açıklayabilecek faktörleri anlamaya yardımcı olmak için Hata Analizini kullanın.

Tavsiye F1.5.3 Sistem için uygunsa, performans seviyelerini ve farklılıklarını açıklayabilecek faktörleri anlamaya yardımcı olmak için Interpret ML araç setinin bir parçası olarak mevcut olan bir veya daha fazla tekniği kullanın.

Tavsiye F1.7.2 Sistem için uygunsa, performans seviyelerini ve farklılıklarını açıklayabilecek faktörleri anlamaya yardımcı olmak için Interpret ML araç setinin bir parçası olarak mevcut olan bir veya daha fazla tekniği kullanın.

Hedef F2 : Kaynakların ve fırsatların tahsisi

Temel alanlarda kaynak veya fırsat tahsis eden Microsoft YZ sistemleri, marjinalleştirilmiş gruplar da dahil olmak üzere tanımlanmış demografik gruplar için sonuçlardaki eşitsizlikleri en aza indirecek şekilde tasarlanmıştır.

Uygulama alanı : Finans, eğitim, istihdam, sağlık, barınma, sigorta veya sosyal refahla ilgili kaynak veya fırsatların tahsisini doğrudan etkileyen çıktılar üreten YZ sistemleri.

Gereksinimler

F2.1 Sistemin konuşlandırılacağı amaçlanan kullanımlara ve coğrafi alanlara dayalı olarak sistemden farklı şekilde etkilenme riski altında olabilecek, marjinalleştirilmiş gruplar da dahil olmak üzere demografik grupları belirleyin ve önceliklendirin. Şunları içermelidir:

1) Tek bir faktörle tanımlanan gruplar ve
2) Faktörlerin bir kombinasyonu ile tanımlanan gruplar.

Önceliklendirilen tanımlanmış demografik grupları Etki Değerlendirmesi şablonunu kullanarak belgeleyin.
Etiketler: Etki değerlendirmesi

F2.2 Tanımlanmış demografik grupların kapsayıcılığını değerlendirmek için tüm veri setlerini değerlendirin ve herhangi bir boşluğu kapatmak için veri toplayın. Bu süreci ve sonuçlarını belgeleyin.

F2.3 Bu hedefi desteklemek için gerçekleştireceğiniz değerlendirmeyi tanımlayın ve belgeleyin. Şunları içermelidir:

1) Tüm sisteme ek olarak değerlendirilecek herhangi bir sistem bileşeni,
2) Sistem bileşenlerini ve tüm sistemi değerlendirmek için kullanılacak metrikler,
3) Bu değerlendirme için kullanılacak veri seti.

Etiketler: Sürekli Değerlendirme Kontrol Noktası

F2.4 Bu Hedefe ulaşmak için Sorumlu Sürüm Kriterlerini aşağıdaki gibi tanımlayın ve belgeleyin:
Her metrik için, kaynakların ve fırsatların gruplara tahsis edildiği oranlar arasındaki hedef maksimum farkı (mutlak veya göreceli) belgeleyin.

Etiketler: Sürekli Değerlendirme Kontrol Noktası

F2.5 Sistemi, tanımlanmış Sorumlu Sürüm Kriterlerine göre değerlendirin. Etiketler: Sürekli Değerlendirme Kontrol Noktası

F2.6 Kaynakların ve fırsatların tahsis edildiği oranlardaki farklılıkları en aza indirme hedefini takip etmek için eğitim verileri, özellikler, amaç fonksiyonu ve eğitim algoritması seçimi de dahil olmak üzere sistem tasarımını yeniden değerlendirin, özellikle hedef maksimum farkı aşanlara dikkat edin, böyle davranmanın sistem performansını etkileyebileceğini ve bu tür ödünleşmelerin nasıl yapılacağının nadiren açık/anlaşılır olduğunun ön kabulüyle hareket edin.

Ödünleşmeleri nasıl belirleyeceğinizi ve belgeleyeceğinizi de dahil ederek yaklaşımınızı belirlemek için avukatınıza danışın.
Etiketler: Sürekli Değerlendirme Kontrol Noktası

F2.7 Kaynakların ve fırsatların tahsis edildiği oranlar arasındaki kalan farklılıkları açıklayan herhangi bir haklı faktörü belirleyin ve belgeleyin.
Etiketler: Sürekli Değerlendirme Kontrol Noktası

F2.8 F2.4, F2.5 ve F2.6 gerekliliklerinde açıklanan değerlendirmenin sürüm öncesi sonuçlarını belgeleyin. Bu hedefi desteklemeye devam etmek için sürekli değerlendirmenin ne sıklıkta yapılması gerektiğini belirleyin ve belgeleyin.
Etiketler: Sürekli Değerlendirme Kontrol Noktası

F2.9 Müşteriler için aşağıdaki konularda bilgi yayınlayın:

1) Kaynakların ve fırsatların tahsis edildiği oranlar arasında kalan farklılıklar ve
2) Bu farklılıkları açıklayan herhangi bir haklı faktör.

Sistem, harici müşterilere veya ortaklara sunulan bir platform hizmeti olduğunda, bu bilgileri gerekli Şeffaflık Bildirimi’ ne ekleyin.
Etiketler: Şeffaflık Bildirimi

Araçlar ve uygulamalar

Tavsiye F2.1.1 Kuzey Amerika için, demografik grupları ve demografik bilgi toplama yöntemlerini belirlemeye yardımcı olması amacıyla Yaş, Cinsiyet Kimliği ve Soy için En İyi Uygulamaları kullanın.

Tavsiye F2.1.2 Amaçlanan kullanımlar ve coğrafi bölgeler genelinde demografik gruplardaki farklılıkları anlamak için kullanıcı araştırmacılarıyla birlikte çalışın.

Tavsiye F2.1.4 Kaynakların ve fırsatların tahsis edildiği oranlar arasındaki farklılıklarla ilişkili riskleri ve etkileri anlamak için tanımlanmış demografik grupların üyeleriyle çalışın. Tavsiye F2.2.1 Hassas verileri kullanmaya yönelik gizlilik gereksinimlerine saygı göstererek, tanımlanmış demografik grupların temsilini anlamak için Analiz Platformu’nu kullanın. Tavsiye F2.2.2 Tanımlanmış demografik grupların temsilini bir datasheet üzerinde belgeleyin.

Tavsiye F2.5.1 Sistem için uygunsa, Fairlearn Python araç setinin değerlendirme ve azaltma yeteneklerini kullanın.

Tavsiye F2.6.1 Sistem için uygunsa, Fairlearn Python araç setinin değerlendirme ve azaltma yeteneklerini kullanın.

Tavsiye F2.1.3 Sisteminizin performansını etkileyen gerçekleri ve bunların bu alandaki tanımlanmış demografik gruplar arasında nasıl değiştiğini anlamak için alana özgü konu uzmanlarıyla çalışın.

Tavsiye F2.5.2 Sistem için uygunsa, kaynakların ve fırsatların tanımlanmış demografik gruplara tahsis edildiği oranlar arasındaki farklılıkları açıklayabilecek faktörleri anlamaya yardımcı olmak için Hata Analizini kullanın.

Tavsiye F2.5.3 Sistem için uygunsa, kaynakların ve fırsatların tanımlanmış demografik gruplara tahsis edildiği oranlar arasındaki farklılıkları açıklayabilecek faktörleri anlamaya yardımcı olmak için Interpret ML araç setinin bir parçası olarak mevcut olan bir veya daha fazla tekniği kullanın.

Tavsiye F2.7.1 Sistem için uygunsa, kaynakların ve fırsatların tanımlanmış demografik gruplara tahsis edildiği oranlar arasındaki farklılıkları açıklayabilecek faktörleri anlamaya yardımcı olmak için Hata Analizini kullanın.

Tavsiye F2.7.2 Sistem için uygunsa, kaynakların ve fırsatların tanımlanmış demografik gruplara tahsis edildiği oranlar arasındaki farklılıkları açıklayabilecek faktörleri anlamaya yardımcı olmak için Interpret ML’i kullanın.

Hedef F3 : Stereotip (Kalıp yargı) oluşturan, aşağılayan ve silici çıktıların en aza indirilmesi

İnsanları, kültürleri veya toplumu tanımlayan, tasvir eden veya başka bir şekilde temsil eden Microsoft YZ sistemleri, marjinalleştirilmiş gruplar da dahil olmak üzere, tanımlanmış demografik gruplara yönelik stereotip oluşturma, aşağılama veya silme potansiyelini en aza indirecek şekilde tasarlanmıştır.

Uygulama alanı : Sistem çıktılarının insanlara, kültürlere veya toplumlara ait tanımları, tasvirleri veya diğer temsilleri içerdiği YZ sistemleri.

Gereksinimler

F3.1 Sistemin kalıp yargı oluşturan, aşağılayıcı veya silici çıktılarına maruz kalma riski altında olabilecek, marjinalleştirilmiş gruplar da dahil olmak üzere demografik grupları belirleyin ve önceliklindirin. Şunları içermelidir:

1) Tek bir faktörle tanımlanan gruplar
2) Faktörlerin bir kombinasyonu ile tanımlanan gruplar.

Önceliklendirilen tanımlanmış demografik grupları Etki Değerlendirmesi şablonunu kullanarak belgeleyin.
Etiketler: Etki değerlendirmesi

F3.2 Tüm sisteme ek olarak değerlendirilecek herhangi bir sistem bileşenini tanımlayın ve belgeleyin.

F3.4 Sistemi, F3.3 gereksiniminde tanımlanan plana göre değerlendirin. Etiketler: Sürekli Değerlendirme Kontrol Noktası

F3.3 Sistem bileşenlerini ve tüm sistemi, kalıp yargı oluşturma, aşağılama ve örneklendirilmiş̧ tanımlanmış demografik grupları silme riskleri açısından değerlendirmek için bir plan tanımlayın ve belgeleyin.
Etiketler: Sürekli Değerlendirme Kontrol Noktası

F3.5 Tanımlanmış demografik gruplara yönelik kalıp yargı oluşturma, aşağılama ve silme potansiyelini en aza indirme hedefini takip etmek için eğitim verileri, özellikler, amaç fonksiyonu ve eğitim algoritması seçimi de dahil olmak üzere sistem tasarımını yeniden değerlendirin.

Etiketler: Sürekli Değerlendirme Kontrol Noktası

F3.6 F3.4 ve F3.5 gerekliliklerinden elde edilen sürüm öncesi sonuçları belgeleyin. Bu hedefi desteklemeye devam etmek için sürekli değerlendirmenin ne sıklıkta yapılması gerektiğini belirleyin ve belgeleyin.
Etiketler: Sürekli Değerlendirme Kontrol Noktası

F3.7 Tanımlanmış demografik grupları içeren bu riskler hakkında müşterilere bilgi verecek yayınlar yapın. Sistem, dış müşterilere veya ortaklara sunulan bir platform hizmeti olduğunda, bu bilgileri gerekli Şeffaflık Bildirimi ’ne ekleyin.
Etiketler: Şeffaflık Bildirimi

Araçlar ve uygulamalar

Tavsiye F3.1.1 Bu riskleri ve etkilerini anlamak için kullanıcı araştırmacıları, konu uzmanları ve tanımlanmış demografik grupların üyeleriyle birlikte çalışın.
Tavsiye F3.4.1 Sistem için uygunsa, tanımlanmış demografik grupları içeren bu riskleri değerlendirmeye yardımcı olması için Kontrol Listesi kullanın.

Tavsiye F3.4.2 Tanımlanmış demografik grupları içeren bu riskleri değerlendirmek için red teaming (kırmızı takım) egzersizleri kullanın.

Tavsiye F3.5.1 Bu tür zararların getirebileceği tüm riskleri azaltın. Ek olarak, Güvenilirlik ve Güvenlik Hedefi RS3 ile uyumlu olarak, geri bildirim mekanizmaları oluşturun ve sorunları ele almak için bir plan yapın. Bu yaklaşımın, riskleri azaltma konusundaki en ileri teknolojinin hizmet kalitesindeki veya tahsisle ilgili zarar farklılıklarını azaltmadaki en ileri teknolojiden daha geri olduğu gerçeğinin kabulü tavsiyesiyle anlam kazandığını unutmayın.

Güvenilirlik ve Güvenlik Hedefleri

Hedef RS1 : Güvenilirlik ve güvenlik rehberliği
Microsoft, YZ sistemlerinin güvenilir ve güvenli bir şekilde performans göstermesi beklenen operasyonel faktörleri ve aralıkları değerlendirir, sorunları giderir ve müşterilere ilgili bilgileri sağlar.
Uygulama alanı : Tüm YZ sistemleri.

Gereksinimler

RS1.1 Şunları belgeleyin:
1) Bu sistem için güvenilir ve güvenli davranışın nasıl tanımlandığı ve,
2) Amaçlanan kullanımlar bağlamında genel sistem performansı için kabul edilebilir

hata oranlarının ne olduğu.
Etiketler: Sürekli Değerlendirme Kontrol Noktası

RS1.2 Eğitim ve test veri setlerini, amaçlanan kullanımların, operasyonel faktörlerin ve her faktör için uygun bir ayar aralığının temsilini içerdiklerinden emin olmak için değerlendirin. Değerlendirmeyi belgeleyin.
Etiketler: Sürekli Değerlendirme Kontrol Noktası

RS1.3 Sistemin dağıtıldığı bağlamda güvenilir ve güvenli kullanım için yönetilmesi kritik olan sistem girdisinin kalitesi, kullanımı ve operasyonel bağlamı dahil olmak üzere operasyonel faktörleri belirleyin ve belgeleyin.
Etiketler: Sürekli Değerlendirme Kontrol Noktası

RS1.4 Güvenilir ve güvenli sistem kullanımını desteklemek için önemli olan her operasyonel faktör için kabul edilebilir aralıkları tanımlayın ve belgeleyin. Sistemin bu aralıklarda çalışırken kabul edilebilir bir hata oranını tanımlayın ve belgeleyin.
Etiketler: Sürekli Değerlendirme Kontrol Noktası

RS1.5 Güvenilirliği ve güvenliği sağlamak için ek operasyonel faktörlerin, daha dar veya farklı kabul edilebilir aralıkların veya daha düşük kabul edilebilir hata oranlarının (yanlış pozitif ve yanlış negatif hata oranları dahil) tavsiye edildiği herhangi bir amaçlanan kullanımı tanımlayın. Vardığınız sonuçları belgeleyin.

Etiketler: Sürekli Değerlendirme Kontrol Noktası

RS1.6 RS1.1, RS1.3, RS1.4 ve RS1.5 gerekliliklerine dayalı olarak, sistemin değerlendirileceği ortamı içerecek bir değerlendirme planı tanımlayın ve belgeleyin.
Etiketler: Sürekli Değerlendirme Kontrol Noktası

RS1.7 Güvenilir ve güvenli sistem davranışını sağlamak için RS1.6 gereksiniminde tanımlanan değerlendirme planına göre sistemi değerlendirin. Değerlendirme öncesi sonuçları belgeleyin. Bu hedefi desteklemeye devam etmek için sürekli değerlendirmenin ne sıklıkta yapılması gerektiğini belirleyin ve belgeleyin.

Etiketler: Sürekli Değerlendirme Kontrol Noktası

RS1.8 Operasyonel faktörler ve tanımlanmış aralıklar içindeki arıza durumlarında, sorunları çözmek için çalışın. RS1.1, RS1.3, RS1.4 ve RS1.5 gerekliliklerinde belirlenen Sorumlu Sürüm Kriterleri karşılanamıyorsa, amaçlanan kullanımların yeniden değerlendirilmesi ve güncellenmiş belgeler gereklidir.

Etiketler: Sürekli Değerlendirme Kontrol Noktası

RS1.9 RS1.2, RS1.7 ve RS1.8 gerekliliklerinin çıktılarını ve Etki Değerlendirmesinde ve RS1.8’de tanımlanan desteklenmeyen kullanımları içeren belgeleri müşterilere ve potansiyel müşterilere sağlayın. Sistem, dış müşterilere veya ortaklara sunulan bir platform hizmeti olduğunda, bu bilgileri gerekli Şeffaflık Bildirimi ’ne ekleyin.

Etiketler: Etki Değerlendirmesi, Şeffaflık Bildirimi

Araçlar ve uygulamalar

Tavsiye RS1.1.1 Sistemin insan güvenliğini etkileyebileceği alanlar için güvenlik uzmanlarıyla görüşün ve ilgili literatürü inceleyin.
Tavsiye RS1.4.1 Operasyonel faktörleri ve bunların farklılıklarını anlamak için müşterilerle görüşün.

Hedef RS2 : Arızalar ve düzeltmeler
Microsoft YZ sistemleri, öngörülebilir veya bilinen arızaların giderilme süresini en aza indirecek

şekilde tasarlanmıştır.
Uygulama alanı : Tüm YZ sistemleri.

Gereksinimler

RS2.1 Sistemin bir bütün olarak yanlış pozitif ve yanlış negatif sonuçları da dahil olmak üzere öngörülebilir arızaları ve bunların her bir amaçlanan kullanım için paydaşları nasıl etkileyeceğini tanımlayın. Bu arızaların paydaşlar üzerindeki olumsuz etkilerini belgelemek için Etki Değerlendirmesi şablonunu kullanın.

Etiketler: Etki Değerlendirmesi

RS2.2 Bir paydaş üzerinde olumsuz bir etkiye sahip olması muhtemel her öngörülebilir arıza durumu için, arıza yönetimi yaklaşımını belgeleyin:

1) Mümkün olduğunda, bu arızayı önlemek için sistemi tasarlayın ve oluşturun. Tasarım çözümünü açıklayın. Her bir tasarlanmış çözüm için öngörülebilir arızaları çözme zaman aralığını tahmin edin veya arızanın tasarımla önleneceğini belirtin.
2) Bir arıza tasarımla önlenemediğinde, bu arıza meydana geldiğinde kullanılabilecek bir geri çekilme seçeneği oluşturun. Geri çekilme seçeneğini açıklayın ve geri çekilme seçeneğini devreye almak ve kullanmak için gereken tahmini süreyi belgeleyin.
3) Arızanın çözümünü destekleyen sistem gözetiminden sorumlu paydaşlar için eğitim ve belgeler sağlayın. Belgeleri ve eğitimi açıklayın.

RS2.3 Sistem kullanıma girdikten sonra ortaya çıkan daha önce bilinmeyen arızaları yönetme planınızı belgeleyin:

1) Sistemin geri alma planını açıklayın ve tüm sistemin, tüm uç noktalarda geri alınmasına kadar geçebilecek süreyi belgeleyin.
2) Özellikleri kapatma desteğini açıklayın ve özelliğin tüm uç noktalarda kapatılmasına kadar geçebilecek süreyi belgeleyin.
3) Her model için güncellemeleri güncelleme ve yayınlama sürecini açıklayın ve sistemin tüm uç noktalarda güncellenmesine kadar geçebilecek süreyi belgeleyin.
4) Müşterilerin, ortakların ve son kullanıcıların sistemdeki değişiklikler, arızalara dair güncellenmiş değerlendirmeler ve en iyi azaltma yöntemleri hakkında nasıl bilgilendirileceğini açıklayın.

RS2.4 RS2.1 gereksiniminde tanımlanan öngörülebilir arızaların giderilmesini ve azaltılmasını desteklemek için sistem sahipleri, geliştiriciler, müşteri desteği ve diğer sorumlu paydaşlar için eğitim ve belgeler sağlayın. Sağlanan eğitimi ve belgeleri belgeleyin.

Araçlar ve uygulamalar

Tavsiye RS2.1.1 Hata Türleri ve Etkileri Analizi (Failure Mode and Effects Analysis) yapın. Tavsiye RS2.2.1 Arızaları yönetmeye yardımcı olması için sistemi tasarlarken İnsan-YZ Etkileşimi Yönergelerini izleyin.

Hedef RS2 : Sürekli izleme, geri bildirim ve değerlendirme

Microsoft YZ sistemleri, yeni kullanımları belirleyip gözden geçirebilmemiz, sorunları belirleyip giderebilmemiz, sistemleri yönetip bakımını yapabilmemiz ve zamanla iyileştirebilmemiz için sürekli izleme, geri bildirim ve değerlendirmeye tabidir.

Uygulama alanı : Tüm YZ sistemleri.

Gereksinimler

RS3.1 Kullanılacak sistem sağlık izleme yöntemlerinin ayrıntılı bir envanterini oluşturun ve 1) Veri havuzlarından, sistem analitiklerinden ve ilgili uyarılardan üretilen veriler ve

iç ̧görüler,

2) Müşterilerin arızalar ve endişeler hakkında bilgi gönderebileceği süreçler ve
3) Genel halkın geri bildirim gönderebileceği süreçler.

RS3.2 Her izleme kanalı için standart bir işletim prosedürü ve sistem sağlık izleme eylem planı tanımlayın ve şunları içerecek şekilde belgeleyin:

1) Gelecekteki arızaların önüne geçilmesi ve sorun giderilme süreçlerinin desteklenmesi için sistem arızalarını yeniden oluşturma süreçleri,

1) Hangi olayların izleneceği,
2) Olayların incelenmek üzere nasıl önceliklendirileceği,
3) Bu incelemelerin beklenen sıklığı,
4) Olayların yanıtlara ve çözüm zamanlamasına göre nasıl önceliklendirileceği,
5) Standartlar ve hedeflerini desteklemeyle ilgili yüksek öncelikli sorunların Sorumlu YZ Birimi’ne nasıl iletileceği
6) Sistemle ilgili sorunlara nasıl yanıt verileceğinin farkında olmalarını sağlamak için müşteri hizmetleriyle etkileşim.

RS3.3 Yeni kullanımlar, kritik operasyonel faktörler veya bir operasyonel faktörün desteklenen aralığındaki değişiklikler belirlendiğinde, herhangi bir yeni kullanımın veya operasyonel faktörün mevcut sistemle desteklenip desteklenemeyeceğini, ya da destekleneceğini ancak ek çalışma gerektireceğini ya da desteklenmeyeceğini belirleyin.

Desteklenecek yeni kullanımlar veya operasyonel faktörler belirlendiğinde, güncellenmiş sistemi RS1.6 gereksinimine uygun olarak değerlendirin, yeni amaçlanan kullanımı Etki Değerlendirmesi ‘ne ekleyin ve RS1.9 gereksinimine uygun olarak güncellenmiş iletimi yayınlayın.
Bu yeni kullanımlar veya operasyonel faktör aralığı değişiklikleri, sistemin güvenilir ve güvenli performansını sağlamak için karşılanamadığında veya karşılanmayacaksa, RS1.9’da açıklanan müşteri belgelerini yeni kullanımı desteklenmeyen bir kullanım olarak içerecek şekilde güncelleyin. Sistem, dış müşterilere veya ortaklara sunulan bir platform hizmeti olduğunda, bu bilgiyi gerekli Şeffaflık Bildirimi ’ne ekleyin.
Etiketler: Etki Değerlendirmesi, Şeffaflık Bildirimi

RS3.4 Bir sistemin, amaçlanan kullanımların ve/veya operasyonel faktör aralıklarının ötesinde yeterlilik veya kalite kontrol gereksinimleri getiren bir Hassas Kullanım için kullanılması gerektiğinde, bu kullanıma özgü bir değerlendirme yapın. Gerekli Sorumlu Sürüm Kriterleri karşılanamazsa, Sorumlu YZ Birimi sonuçları gözden geçirecek ve nasıl devam edileceğine karar verecektir. Sorumlu Sürüm Kriterlerindeki herhangi bir değişikliği ve değerlendirmenin sonuçlarını belgeleyin.

RS3.5 Diğer Hedeflerde Sürekli Değerlendirme Kontrol Noktaları olarak etiketlenen tüm değerlendirmeleri sürekli yapın.

RS3.6 Sürekli Değerlendirme Kontrol Noktalarında artık karşılanmayan hedefler varsa, herhangi bir boşluğu kapatmak için bir plan geliştirmek ve uygulamak üzere adı geçen gözden geçirenlerle ve Hassas Kullanımlar durumunda Sorumlu YZ Birimi ile görüşün. Süreci, sonuçları ve vardığınız kanaatleri belgeleyin.

RS3.7 Sistemin bir amaçlanan kullanım için amaca uygun olduğunu çürüten kanıtlar ortaya çıkarsa, sistemin kullanımının herhangi bir noktasında:

1) Amaçlanan kullanımı müşteriye sunulan materyallerden kaldırın ve mevcut müşterileri sorundan haberdar edin, belirlenen boşluğu kapatmak için harekete geçin veya sistemi durdurun,
2) Amaçlanan kullanımla ilgili belgeleri revize edin,
3) Revize edilmiş belgeleri müşterilere yayınlayın.

Sistem, dış müşterilere veya ortaklara sunulan bir platform hizmeti olduğunda, bu bilgileri gerekli Şeffaflık Bildirimi ’ne ekleyin.
Etiketler: Şeffaflık Bildirimi

RS3.8 Aşağıdaki olaylardan herhangi biri meydana geldiğinde Hedef T2 tarafından istenen belgeleri gözden geçirin ve güncelleyin:

1) Yeni kullanımlar eklendiğinde,
2) İşlevsellik değiştiğinde,
3) RS3.3 gereksinimi tarafından tanımlandığı şekilde güvenilir ve güvenli performans hakkında yeni bilgiler bilindiğinde,
4) Sistem doğruluğu ve performansı hakkında yeni bilgiler mevcut olduğunda.

Sistem, dış müşterilere veya ortaklara sunulan bir platform hizmeti olduğunda, bu bilgileri gerekli Şeffaflık Bildirimi ’ne ekleyin.
Etiketler: Şeffaflık Bildirimi

RS3.9 Standartları ve gereksinimlerini desteklemeyle ilgili çözülmemiş sorunları Sorumlu YZ Birimi’ne iletin.

Gizlilik ve Güvenlik Hedefleri Hedef PS1: Gizlilik Standardı uyumluluğu

Microsoft YZ sistemleri, Microsoft Gizlilik Standardına uygun olarak gizliliği korumak için tasarlanmıştır.

Uygulama zamanı: Microsoft Gizlilik Standardı geçerli olduğunda.

Hedef PS2: Güvenlik Politikası uyumluluğu
Microsoft YZ sistemleri, Microsoft Güvenlik Politikasına uygun olarak güvenli olacak şekilde

tasarlanmıştır.
Uygulama zamanı: Microsoft Güvenlik Politikası geçerli olduğunda.

Kapsayıcılık Hedefi

Hedef I1: Erişilebilirlik Standartları uyumluluğu
Microsoft YZ sistemleri, Microsoft Erişilebilirlik Standartları’na uygun olarak kapsayıcı olacak şekilde tasarlanmıştır.

Uygulama zamanı: Microsoft Erişilebilirlik Standartları geçerli olduğunda.

Akademi yazısını paylaş

Microsoft Sorumlu Yapay Zeka Standartları Genel Gereksinimler

MİCROSOFT Sorumlu Yapay Zeka Standartları V2 Hakkında Bilgiler

ECOLITHIC

Hızlı bağlantılar

Raporlama Standartları