ความเสี่ยงด้าน AI (AI RISK) : เข้าใจและจัดการความท้าทายในยุคปัญญาประดิษฐ์

การจัดประเภทความเสี่ยง AI (AI RISK) ตามกฎหมาย AI ของสหภาพยุโรป

กฎหมาย AI ของสหภาพยุโรป (AIA) กำหนดระดับความเสี่ยงสำหรับระบบ AI หรือ AI Risks ไว้ 4 ระดับ: ยอมรับไม่ได้ สูง จำกัด และต่ำ (หรือไม่มีความเสี่ยง) โดยแต่ละระดับจะมีกฎระเบียบและข้อกำหนดที่แตกต่างกัน

ความเสี่ยงที่ยอมรับไม่ได้

ความเสี่ยงที่ยอมรับไม่ได้เป็นระดับความเสี่ยงสูงสุด ระดับนี้สามารถแบ่งออกเป็น 8 ประเภทของการใช้งาน AI ที่ไม่สอดคล้องกับค่านิยมและสิทธิขั้นพื้นฐานของสหภาพยุโรป พร้อมตัวอย่างประกอบ

การจัดการพฤติกรรมแบบแอบแฝง: ระบบ AI ที่ใช้เทคนิคจิตวิทยาแบบซ่อนเร้นเพื่อโน้มน้าวให้ผู้ใช้ซื้อสินค้าโดยไม่รู้ตัว
การแสวงหาประโยชน์จากความเปราะบางของบุคคล: แอปพลิเคชันที่ใช้ AI วิเคราะห์ข้อมูลสุขภาพจิตเพื่อกำหนดเป้าหมายโฆษณาที่อาจทำให้อาการแย่ลง
การจัดประเภทบุคคลตามลักษณะที่ละเอียดอ่อน: ระบบ AI ที่คัดกรองผู้สมัครงานโดยอัตโนมัติตามเชื้อชาติหรือศาสนา
การให้คะแนนทางสังคมทั่วไป: แพลตฟอร์มที่ใช้ AI ให้คะแนนพลเมืองตามพฤติกรรมออนไลน์และออฟไลน์ ส่งผลต่อการเข้าถึงบริการต่างๆ
การระบุตัวตนทางชีวมิติแบบเรียลไทม์ (ในพื้นที่สาธารณะ): ระบบกล้องวงจรปิดที่ใช้ AI เพื่อระบุตัวตนบุคคลในที่สาธารณะโดยอัตโนมัติ
การประเมินสภาวะทางอารมณ์ของบุคคล: ซอฟต์แวร์ที่ใช้ AI วิเคราะห์สีหน้าและน้ำเสียงของพนักงานเพื่อประเมินประสิทธิภาพการทำงาน
การคาดการณ์การกระทำความผิด: ระบบ AI ที่ทำนายแนวโน้มการก่ออาชญากรรมของบุคคลบนพื้นฐานของข้อมูลส่วนบุคคล
การเก็บรวบรวมภาพใบหน้า: แอปพลิเคชันที่ใช้ AI สแกนและจัดเก็บภาพใบหน้าจากโซเชียลมีเดียโดยไม่ได้รับความยินยอม

ระบบ AI ที่เกี่ยวข้องกับพื้นที่เหล่านี้จะถูกห้ามใช้ในสหภาพยุโรป

ความเสี่ยงสูง

ระบบ AI ที่มีความเสี่ยงสูงจะเป็นระบบที่ได้รับการควบคุมมากที่สุดที่อนุญาตให้ใช้ในตลาดสหภาพยุโรป โดยทั่วไปแล้ว ระดับนี้รวมถึงองค์ประกอบด้านความปลอดภัยของผลิตภัณฑ์ที่มีการควบคุมอยู่แล้ว และระบบ AI แบบ Stand alone ในพื้นที่เฉพาะ ซึ่งอาจส่งผลกระทบในเชิงลบต่อสุขภาพและความปลอดภัยของผู้คน สิทธิขั้นพื้นฐานของพวกเขา หรือสิ่งแวดล้อม

ความเสี่ยงจำกัด

ระดับความเสี่ยงที่สามคือความเสี่ยงจำกัด ซึ่งรวมถึงระบบ AI ที่มีความเสี่ยงในการจัดการหรือหลอกลวง ระบบ AI ที่อยู่ในหมวดหมู่นี้ต้องมีความโปร่งใส หมายความว่ามนุษย์ต้องได้รับแจ้งเกี่ยวกับการโต้ตอบกับ AI (เว้นแต่จะเห็นได้ชัดเจน) และภาพหรือเสียงที่สร้างขึ้นโดย AI ควรระบุว่าเป็นเช่นนั้น

ความเสี่ยงต่ำ

ระดับความเสี่ยงต่ำสุดที่อธิบายโดยกฎหมาย AI ของสหภาพยุโรปคือความเสี่ยงต่ำ ระดับนี้รวมถึงระบบ AI อื่นๆ ทั้งหมดที่ไม่อยู่ในหมวดหมู่ที่กล่าวมาข้างต้น เช่น ตัวกรองสแปม ระบบ AI ที่มีความเสี่ยงต่ำไม่มีข้อจำกัดหรือข้อบังคับที่จำเป็น