Elektrik Mühendisliği ve Yapay Zeka
Bölüm-3
Risk Yönetimi ve Etki Değerlendirmesi: AI Projelerinde Mühendislik Kararı


ETP Yapay Zeka Çalışma Grubu 
Sabri Günaydın 

[Yayım Tarihi:  5 Ağustos 2026)

Giriş

Yapay Zekâ (AI) teknolojilerinin elektrik mühendisliği uygulamalarına entegrasyonu, sistemlerin karmaşıklığını artırmakta ve beraberinde yeni risk faktörleri getirmektedir. Enerji şebekelerinin yönetimi, güç sistemlerinin korunması veya endüstriyel otomasyon gibi kritik alanlarda kullanılan AI sistemlerinde ortaya çıkabilecek hatalar veya beklenmedik davranışlar, ciddi operasyonel, finansal ve hatta güvenlik sonuçlarına yol açabilir. Bu nedenle, AI projelerinde Risk Yönetimi ve etki değerlendirmesi, mühendislik karar alma süreçlerinin ayrılmaz bir parçası haline gelmiştir. Bu makale, AI projelerinde risklerin nasıl yönetileceğini, etki değerlendirmesinin önemini ve ISO/IEC 23894, ISO/IEC 42005 ve ISO 31000 gibi standartların bu süreçteki rolünü inceleyecektir.

AI Projelerinde Risklerin Doğası

AI sistemleri, geleneksel yazılım veya donanım sistemlerinden farklı risk profillerine sahiptir. Bu riskler genellikle şunları içerir:

• Veri ile İlgili Riskler: Yetersiz veri kalitesi, önyargılı veri setleri, veri gizliliği ve güvenliği ihlalleri.

• Model ile İlgili Riskler: Modelin yanlış tahminler yapması, açıklanamaz kararlar vermesi (kara kutu problemi), modelin zamanla bozulması (model drift), siber saldırılara karşı savunmasızlık.

• Operasyonel Riskler: AI sisteminin insan denetimi olmadan kritik kararlar alması, beklenmedik durumlarla başa çıkamaması, entegrasyon sorunları.

• Etik ve Yasal Riskler: Ayrımcılık, şeffaflık eksikliği, hesap verebilirlik sorunları, yasal düzenlemelere uyumsuzluk.

Elektrik mühendisliği bağlamında, bu riskler özellikle kritik altyapı sistemlerinde daha da büyüyebilir. Örneğin, bir enerji yönetim sistemindeki AI modelinin yanlış tahmini, geniş çaplı elektrik kesintilerine veya ekipman hasarına neden olabilir.

Risk Yönetimi Çerçeveleri: ISO/IEC 23894 ve ISO 31000

AI projelerinde riskleri sistematik bir şekilde yönetmek için uluslararası standartlar önemli rehberlik sağlar:

• ISO/IEC 23894:2023 - Bilgi Teknolojisi — Yapay Zekâ — Risk Yönetimi Rehberliği [1]: Bu standart, AI sistemleriyle ilişkili risklerin yönetimi için kapsamlı bir rehberlik sunar. AI sistemlerinin yaşam döngüsü boyunca (kavramsallaştırma, geliştirme, dağıtım, işletme ve elden çıkarma) risklerin nasıl belirleneceği, analiz edileceği, değerlendirileceği, işleneceği ve izleneceği konusunda yol gösterir. Elektrik mühendisleri için bu standart, AI destekli sistemlerin tasarımında ve işletmesinde potansiyel tehlikeleri ve zayıflıkları proaktif olarak ele almak için bir çerçeve sağlar.

• ISO 31000:2018 - Risk Yönetimi — Kılavuzlar [2]: Bu genel risk yönetimi standardı, herhangi bir kuruluşun ve herhangi bir faaliyetin risklerini yönetmek için prensipler ve kılavuzlar sunar. ISO/IEC 23894, özel olarak AI risklerine odaklanırken, ISO 31000, AI risk yönetimini kuruluşun genel risk yönetimi çerçevesine entegre etmek için bir temel sağlar. Bu, elektrik mühendisliği firmalarının AI projelerini kurumsal risk stratejileriyle uyumlu hale getirmelerine yardımcı olur.

Bu standartlar, risk yönetimini sürekli ve yinelemeli bir süreç olarak ele alır. Risklerin düzenli olarak gözden geçirilmesi, yeni risklerin belirlenmesi ve mevcut risk işleme stratejilerinin etkinliğinin değerlendirilmesi, AI sistemlerinin güvenilirliğini ve emniyetini sağlamak için esastır.

Yapay Zekâ Sistem Etki Değerlendirmesi: ISO/IEC 42005

AI sistemlerinin potansiyel etkilerini anlamak ve yönetmek, risk yönetiminin kritik bir bileşenidir. ISO/IEC 42005:2025 - Bilgi Teknolojisi — Yapay Zekâ (AI) — AI Sistem Etki Değerlendirmesi [3] standardı, AI sistemlerinin bireyler, gruplar, kuruluşlar ve toplum üzerindeki potansiyel etkilerini değerlendirmek için bir çerçeve sunar. Bu değerlendirme, hem olumlu hem de olumsuz etkileri kapsar ve AI sistemlerinin sorumlu bir şekilde geliştirilmesi ve dağıtılması için önemli bilgiler sağlar.

Elektrik mühendisliği projelerinde AI sistem etki değerlendirmesi şunları içerebilir:

• İnsan Etkisi: AI sistemlerinin operatörler, bakım personeli veya son kullanıcılar üzerindeki etkileri (örneğin, iş yükü, karar alma süreçleri, eğitim ihtiyaçları).

•  Çevresel Etki: AI sistemlerinin enerji tüketimi ve karbon ayak izi gibi çevresel etkileri.

• Sosyal Etki: AI sistemlerinin toplum üzerindeki geniş etkileri (örneğin, istihdam, gizlilik, ayrımcılık).

• Güvenlik Etkisi: AI sistemlerinin fiziksel ve siber güvenlik üzerindeki etkileri.

Bu değerlendirme, özellikle kritik altyapılarda kullanılan AI sistemleri için yasal ve etik uyumluluğu sağlamak adına hayati öneme sahiptir. AB Yapay Zekâ Tüzüğü gibi düzenlemeler, yüksek riskli AI sistemleri için etki değerlendirmesini zorunlu kılmaktadır.
 

Mühendislik Notu

Elektrik mühendisliğinde AI projelerinde risk yönetimi, sadece teknik bir kontrol listesi doldurmaktan ibaret değildir. Bu, sistemin tüm yaşam döngüsü boyunca sürekli bir düşünce ve karar alma sürecidir. Örneğin, bir akıllı şebeke kontrol sisteminde kullanılan AI algoritmasının, siber saldırı durumunda nasıl davranacağı, veri bütünlüğünün bozulması halinde hangi güvenlik mekanizmalarının devreye gireceği gibi senaryolar önceden belirlenmeli ve test edilmelidir. Risk kabul kriterleri, sistemin kritiklik seviyesine ve potansiyel sonuçlarına göre belirlenmeli ve ilgili tüm paydaşlarla mutabık kalınmalıdır. Bu, AI sistemlerinin sadece işlevsel değil, aynı zamanda güvenli ve emniyetli olmasını sağlar.

Standart Odak Noktası

ISO/IEC 23894 ve ISO/IEC 42005 standartları, AI projelerinde risk yönetimi ve etki değerlendirmesi için yapılandırılmış bir yaklaşım sunar. Bu standartlar, elektrik mühendislerinin AI sistemlerinin potansiyel tehlikelerini ve etkilerini proaktif olarak belirlemelerine, değerlendirmelerine ve yönetmelerine yardımcı olur. Özellikle, AI sistemlerinin karmaşıklığı ve öngörülemezliği göz önüne alındığında, bu standartlar, mühendislik karar alma süreçlerine şeffaflık ve hesap verebilirlik getirerek, daha güvenilir ve sorumlu AI uygulamalarının geliştirilmesini teşvik eder.

Saha Uygulaması

Bir hidroelektrik santralinde, su seviyelerini ve türbin performansını optimize etmek için bir AI sistemi geliştirildiğini varsayalım. Bu sistem, sensör verilerini ve hava durumu tahminlerini kullanarak türbinlerin çalışma modlarını dinamik olarak ayarlar. Bu projede risk yönetimi ve etki değerlendirmesi şu adımları içerebilir:

1. Risk Belirleme: Yanlış su seviyesi tahmini nedeniyle türbin hasarı, siber saldırı sonucu kontrol sisteminin ele geçirilmesi, veri sensörlerinin arızalanması gibi riskler belirlenir.

2. Risk Analizi: Belirlenen risklerin olasılığı ve potansiyel etkisi değerlendirilir. Örneğin, türbin hasarının finansal maliyeti ve operasyonel kesinti süresi tahmin edilir.

3. Risk Değerlendirmesi: Riskler, kabul edilebilir risk seviyeleriyle karşılaştırılır. Yüksek riskli senaryolar için ek önlemler planlanır.

4. Etki Değerlendirmesi (ISO/IEC 42005): AI sisteminin enerji üretimi, çevresel su yönetimi ve yerel topluluklar üzerindeki potansiyel olumlu ve olumsuz etkileri analiz edilir. Örneğin, optimize edilmiş enerji üretimi olumlu bir etki iken, yanlış tahminler nedeniyle su kaynaklarının yanlış yönetimi olumsuz bir etki olabilir.

5. Risk İşleme: Siber güvenlik önlemleri (IEC 62443), fonksiyonel güvenlik sistemleri (IEC 61508), veri doğrulama mekanizmaları ve insan denetimi gibi kontroller uygulanır.

6. İzleme ve Gözden Geçirme: AI sisteminin performansı ve risk profili düzenli olarak izlenir, yeni riskler tespit edildiğinde veya mevcut riskler değiştiğinde risk yönetimi süreci güncellenir.

Bu yaklaşım, hidroelektrik santralinin hem verimli çalışmasını hem de AI sisteminin güvenli ve sorumlu bir şekilde kullanılmasını sağlar.

Sonuç

Elektrik mühendisliğinde yapay zekâ projelerinin başarısı, etkili risk yönetimi ve kapsamlı etki değerlendirmesi süreçlerine bağlıdır. ISO/IEC 23894 ve ISO 31000, AI risklerini yönetmek için genel ve spesifik rehberlik sağlarken, ISO/IEC 42005, AI sistemlerinin geniş kapsamlı etkilerini değerlendirmek için bir çerçeve sunar. Bu standartları benimseyerek, elektrik mühendisleri AI teknolojilerinin potansiyel faydalarını en üst düzeye çıkarırken, ilişkili riskleri minimize edebilir ve güvenilir, emniyetli ve etik AI uygulamaları geliştirebilirler.

Bundan sonraki bölümde "Veri Kalitesi, Sensörler ve Ölçme Zinciri: Kötü Veriyle İyi AI Olmaz"  anlatılacaktır. 

Referanslar
[1] ISO/IEC. (2023). ISO/IEC 23894:2023 - Information technology — Artificial intelligence — Guidance on risk management. Retrieved from https://www.iso.org/standard/77437.html
[2] ISO. (2018). ISO 31000:2018 - Risk management — Guidelines. Retrieved from https://www.iso.org/standard/65694.html
[3] ISO/IEC. (2025). ISO/IEC 42005:2025 - Information technology — Artificial intelligence (AI) — AI system impact assessment. (Under development)

ETP Not: Bu yazı dizisinin   hazırlanması sürecinde üretken yapay zekâ araçlarından araştırma desteği, içerik organizasyonu, taslak oluşturma, dil düzenleme  ve editoryal destek amacıyla yararlanılmıştır. Tüm teknik değerlendirmeler, yorumlar, kaynak doğrulamaları ve nihai editoryal kararlar yazar tarafından gerçekleştirilmiştir. Makaledeki görüş ve sonuçların sorumluluğu tamamen yazara aittir.