ธรรมาภิบาล AI ต้องมีระบบที่รัดกุมและการตรวจสอบโดยมนุษย์
Laerte Finotelli วิเคราะห์วิธีสร้างสมดุลระหว่างคำแนะนำของอัลกอริทึมกับบริบทของมนุษย์ เพื่อป้องกันการตัดสินใจที่มีอคติ
การตัดสินใจแบบอัตโนมัติโดยเอไอจำเป็นต้องมีโครงสร้างธรรมาภิบาลและการตรวจสอบที่ชัดเจน ในรายการ Marketing - The Podcast ทาง Laerte Finotelli อธิบายถึงเหตุผลที่เทคโนโลยีควรทำหน้าที่เสนอแนะแนวทาง โดยไม่เข้ามาแทนที่วิจารณญาณและนโยบายทางธุรกิจ
การนำเอเจนต์ปัญญาประดิษฐ์เข้ามาปรับใช้ในการทำงานด้านการตลาดและผลิตภัณฑ์อย่างรวดเร็ว ได้นำมาซึ่งความท้าทายในการวางโครงสร้างธรรมาภิบาลข้อมูล ในการพูดคุยกับ Bruno Gimenes บนรายการ Marketing - The Podcast ทาง Laerte Finotelli ผู้ประสานงานฝ่ายผลิตภัณฑ์ ได้วิเคราะห์ว่าการตัดสินใจแบบอัตโนมัติจำเป็นต้องสร้างสมดุลระหว่างการประมวลผลตัวแปรอย่างเป็นระบบกับวิจารณญาณของมนุษย์ที่มีต่อบริบททางธุรกิจ
ในวิดีโอด้านบน ตอนเต็มนี้จะเจาะลึกถึงธรรมาภิบาลของอัลกอริทึม พร้อมเปิดประเด็นพูดคุยเชิงลึกเกี่ยวกับศาสตร์ด้านผลิตภัณฑ์ ตัวชี้วัดโฆษณา และความสนใจของผู้บริโภค ความสัมพันธ์ระหว่างโมเดลคาดการณ์กับการตัดสินใจจะเห็นภาพได้ชัดเจนยิ่งขึ้น เมื่อพิจารณาว่าเครื่องจักรเชื่อมโยงข้อมูลย่อยมหาศาลเพื่อเสนอแนวทางการปฏิบัติอย่างไร
ตรรกะของข้อมูลย่อยและพฤติกรรมของอัลกอริทึม
เมื่อพูดถึงรูปแบบที่เทคโนโลยีใช้ประมวลผลข้อมูล Finotelli ได้เปรียบเทียบกับแนวคิดในหนังสือ Nexus ของ Yuval Harari ในขณะที่ความคิดของมนุษย์มักจะระแวงเมื่อมีเหตุผลเดี่ยวๆ จำนวนมากเกินไปสำหรับสถานการณ์เดียวกัน แต่เครื่องจักรกลับทำงานโดยการนำสัญญาณย่อยๆ หลายสิบสัญญาณมาประมวลผลพร้อมกันเพื่อคำนวณหาความน่าจะเป็น
Finotelli ยกตัวอย่างกลไกนี้ผ่านการกำหนดราคาแบบไดนามิกในแอปพลิเคชันเรียกรถ ตัวแปรต่างๆ เช่น ระดับแบตเตอรี่โทรศัพท์ โอกาสที่ฝนจะตก ตำแหน่งพิกัดที่แน่นอน หรือความใกล้กับทางออกมหาวิทยาลัยหรือคอนเสิร์ต จะถูกระบบนำมาผสานรวมกันเพื่อแนะนำราคาค่าบริการ อัลกอริทึมจะมุ่งเน้นไปที่ความสัมพันธ์ดิบของข้อมูล ซึ่งต่างจากมนุษย์ที่จะประเมินสถานการณ์จากมุมมองอื่น
ชั้นการตรวจสอบและการตัดสินใจของมนุษย์
เพื่อป้องกันไม่ให้เป้าหมายแบบอัตโนมัติสร้างความบิดเบือนหรือดำเนินงานโดยขาดความโปร่งใส Finotelli สนับสนุนให้เทคโนโลยีทำหน้าที่เสนอแนะข้อมูลเชิงลึกที่มีหลักฐานรองรับ โดยปล่อยให้การตัดสินใจขั้นสุดท้ายอยู่ภายใต้การพิจารณาของมนุษย์
"ผมสนับสนุนอย่างยิ่งให้เครื่องจักรทำหน้าที่ให้คำแนะนำ จากนั้นเราต้องมีขั้นตอนธรรมาภิบาลส่วนบุคคลในการพิจารณาว่าจะยอมรับคำแนะนำนั้นหรือไม่ ก่อนที่จะตัดสินใจต่อไป" Finotelli อธิบาย พร้อมเน้นย้ำถึงความจำเป็นในการตั้งคำถามว่าความสัมพันธ์ของข้อมูลชุดใดที่สนับสนุนคำแนะนำแต่ละข้อของระบบ
ในทางกลับกัน กระบวนการอัตโนมัติมีข้อได้เปรียบในการลดความรู้สึกส่วนตัวล้วนๆ และการยึดติดกับ ความรู้สึก (feeling) ธรรมาภิบาลในอุดมคติตามมุมมองของ Finotelli ต้องดำเนินงานควบคู่กันสองด้าน: "มันต้องมีระบบที่เป็นทางการ เช่น การที่มนุษย์ไม่เข้าไปแทรกแซงนั้นมีประโยชน์เพียงใด ช่วยขจัดอคติได้จริงหรือไม่ แต่ในขณะเดียวกัน การมีส่วนร่วมของมนุษย์จะช่วยนำข้อมูลเหล่านี้กลับเข้าสู่โลกความเป็นจริงได้แค่ไหน?" การผสมผสานนี้ช่วยสร้างความมั่นใจว่านโยบายภายในขององค์กร ข้อกำหนดสาธารณะ และการคำนึงถึงความเป็นจริงจะร่วมกันชี้นำผลลัพธ์ขั้นสุดท้าย