AI กับการควบคุมที่สมบูรณ์แบบ: หากเราเลือกในสิ่งที่มันต้องการ โดยที่ยังคิดว่าเราเลือกเองล่ะ?

"เมื่อเราให้ระบบรู้จักมนุษย์มากขึ้นเรื่อย ๆ วันหนึ่งเราจะยอมให้ระบบนั้นตัดสินแทนเราด้วยหรือไม่ว่า เราควรเป็นใคร ควรทำอะไร และควรใช้ชีวิตแบบไหน"

            “AI จะครองโลกเหมือนในหนังไหม” “AI จะแย่งงานเราทั้งหมดหรือเปล่า” หรือแม้แต่ “วันหนึ่ง AI จะควบคุมมนุษย์หรือไม่” เป็นคำถามที่ถูกพูดถึงมากขึ้นอย่างเห็นได้ชัด นับตั้งแต่ OpenAI เปิดตัว ChatGPT ในปี 2022

            ภาพยนตร์และซีรีส์จำนวนมากจึงถูกหยิบกลับมาพูดถึงอีกครั้ง เพราะสิ่งที่ครั้งหนึ่งเคยดูเหมือนนิยายวิทยาศาสตร์กำลังค่อย ๆ เข้าใกล้ชีวิตประจำวันของเรา ภาพยนตร์เรื่อง Terminator จินตนาการถึง AI ที่มองมนุษย์เป็นภัยคุกคาม 

            The Matrix พาเราไปสู่โลกที่มนุษย์ใช้ชีวิตอยู่ภายใต้ระบบที่ตนเองแทบไม่รู้ตัวว่าอยู่ภายใต้การควบคุม ส่วนที่น่าสนใจที่สุดคือเรื่อง Westworld ที่ได้ตั้งคำถามว่า จะเกิดอะไรขึ้นเมื่อสิ่งประดิษฐ์ที่มนุษย์สร้างขึ้นเริ่มเรียนรู้ จดจำ และตั้งคำถามกับเจตจำนงของผู้สร้าง

            ภาพยนตร์ Westworld ยังได้นำเสนอลึกลงไปถึงจิตใจของ AI เช่นเดียวกับ ภาพยนตร์ชื่อดังอย่าง Her ที่เสนอภาพที่อ่อนโยนกว่า แต่ก็น่าคิดไม่แพ้กันว่า AI ไม่ได้เข้ามาในชีวิตเราในฐานะผู้ปกครอง ควบคุม หรือทำลาย แต่อาจเข้ามาในฐานะเพื่อน ผู้ช่วย หรือแม้แต่คนที่เราไว้วางใจมากที่สุด 

            ในบทความนี้ผมอยากโฟกัสไปที่การควบคุมการควบคุมพฤติกรรมของมนุษย์ จากอนิเมะ Psycho-Pass ซึ่งเป็นหนึ่งในเรื่องที่น่าสนใจที่สุด ส่วนหนึ่งเพราะผมชอบเรื่องนี้อย่างมาก อีกส่วนหนึ่งคืออนิเมะเรื่องนี้ไม่ได้ตั้งคำถามว่า "AI จะฉลาดแค่ไหน" แต่พูดถึงระบบที่สามารถวัด วิเคราะห์ และทำนายมนุษย์ได้มากพอ จนมันเริ่มกำหนดด้วยหรือไม่ว่าเราควรใช้ชีวิตอย่างไร

            Psycho-Pass เป็นอนิเมะไซไฟจากปี 2012 ที่พาเราไปสู่ประเทศญี่ปุ่นในอนาคต ซึ่งมนุษย์แทบทุกคนอยู่ภายใต้การประเมินของระบบที่เรียกว่า "Sibyl System" ระบบสามารถวิเคราะห์สภาพจิตใจและประเมินความเสี่ยงในการก่ออาชญากรรมออกมาเป็นตัวเลขที่เรียกว่า "Crime Coefficient" 

            สิ่งที่น่ากลัวคือ บุคคลไม่จำเป็นต้องก่ออาชญากรรมก่อนจึงจะถูกมองว่าเป็นภัย เพราะหากระบบประเมินว่าเขามีความเสี่ยงสูงพอ เขาอาจถูกควบคุมตั้งแต่ก่อนการกระทำจะเกิดขึ้น

            ในเรื่องยังมีความไซไฟที่สนุกสนาน และไม่ใช่แค่เทคโนโลยีที่สามารถอ่านใจมนุษย์ได้ ที่ทำให้มันน่าสนใจ สำหรับผมมันคือคือคำถามว่า เมื่อเราให้ระบบรู้จักมนุษย์มากขึ้นเรื่อย ๆ วันหนึ่งเราจะยอมให้ระบบนั้นตัดสินแทนเราด้วยหรือไม่ว่า เราควรเป็นใคร ควรทำอะไร และควรใช้ชีวิตแบบไหน

"Sibyl System" ระบบสามารถวิเคราะห์สภาพจิตใจและประเมินความเสี่ยงในการก่ออาชญากรรมออกมาเป็นตัวเลขที่เรียกว่า "Crime Coefficient"

            สิ่งนี้ทำให้ผมนึกถึงแนวคิดคลาสสิกเกี่ยวกับการออกแบบเงื่อนไขที่ส่งผลต่อพฤติกรรมอย่าง "Behavior Engineering" และแนวคิดร่วมสมัยอย่าง "Nudge Theory" ซึ่งแม้จะเกิดขึ้นในต่างช่วงเวลาและต่างบริบท แต่ต่างก็ช่วยให้เราเห็นว่า พฤติกรรมของมนุษย์ไม่ได้เกิดขึ้นจากความตั้งใจภายในตัวบุคคลเพียงอย่างเดียว แต่ยังได้รับอิทธิพลจากเงื่อนไขและสิ่งแวดล้อมที่อยู่รอบตัวเราอีกด้วย

            1) Behavior Engineering เป็นแนวคิดที่ได้รับการพัฒนาอย่างสำคัญโดย Thomas F. Gilbert ซึ่งเสนอว่า หากต้องการพัฒนาผลการปฏิบัติงานของมนุษย์ เราไม่ควรมองเฉพาะความสามารถหรือแรงจูงใจของตัวบุคคล แต่ควรวิเคราะห์เงื่อนไขแวดล้อมร่วมด้วย เช่น ข้อมูลที่ได้รับ เครื่องมือหรือทรัพยากร และสิ่งจูงใจ ตลอดจนปัจจัยภายในบุคคล เช่น ความรู้ ความสามารถ และแรงจูงใจ (Gilbert, 1978) 

            กล่าวอย่างง่ายคือ หากเราเปลี่ยนเงื่อนไขบางอย่างที่อยู่รอบตัวมนุษย์ ความเป็นไปได้ที่พฤติกรรมบางอย่างจะเกิดขึ้นก็สามารถเปลี่ยนตามไปด้วย

            2) Nudge Theory ได้พัฒนาโดย Richard H. Thaler และ Cass R. Sunstein ให้ความสำคัญกับสิ่งที่เรียกว่า "Choice Architecture" หรือ “สถาปัตยกรรมของทางเลือก” โดยเสนอว่า วิธีการจัดวางและนำเสนอทางเลือกสามารถทำให้มนุษย์มีแนวโน้มตัดสินใจไปในทิศทางหนึ่งมากขึ้นได้ โดยยังคงเปิดทางเลือกอื่นไว้และไม่จำเป็นต้องใช้การบังคับ (Thaler & Sunstein, 2008)

            ตัวอย่างเช่น การกำหนดตัวเลือกหนึ่งไว้เป็นค่าเริ่มต้นในโปรแกรมหรือฟอร์มออนไลน์ต่างๆ การวางอาหารที่ดีต่อสุขภาพให้อยู่ในตำแหน่งที่มองเห็นง่าย การส่งข้อความโฆษนาในเวลาที่เหมาะสม หรือแม้แต่การลดขั้นตอนของกระบวนการบางอย่างให้ง่ายขึ้นบนเว็บไซต์ของ Amazon 

            จากตัวอย่างนี้ ทุกท่านจะเห็นว่ามันแทบไม่ต้องบอกให้เราเลือกอะไร แต่เป็นแค่การออกแบบบริบทของการตัดสินใจให้ทางเลือกบางอย่างเกิดขึ้นได้ง่ายขึ้น

            สิ่งที่แนวคิดทั้งสองช่วยให้เราเห็นร่วมกันคือ มนุษย์ไม่ได้ตัดสินใจจากภายใน (เจตจำนง) เพียงอย่างเดียว แต่มาจาก สิ่งที่เราเห็น ข้อมูลที่เราได้รับ ทางเลือกที่ถูกนำเสนอ เครื่องมือที่เราใช้ รวมถึงผลลัพธ์ที่ตามหลังการกระทำ ล้วนสามารถมีอิทธิพลต่อพฤติกรรมของเราได้

            ในอดีตมนุษย์เป็นผู้ที่ออกแบบเงื่อนไขเหล่านี้ให้กับมนุษย์ด้วยกันเอง คำถามที่น่าสนใจในยุค AI ก็คือ จะเกิดอะไรขึ้น หากวันหนึ่ง AI กลายเป็นผู้ที่สามารถออกแบบเงื่อนไขและทางเลือกเหล่านี้ให้กับเราได้อย่างต่อเนื่อง และเฉพาะเจาะจงกับมนุษย์แต่ละคน

            สิ่งนี้มีความเป็นไปได้สูง เพราะในปัจจุบัน AI มีอิทธิพลในชีวิตประจำวันของมนุษย์สูงมากขึ้น แม้จะถูกตั้งคำถามถึงความสมเหตุสมผล ความฉลาด และอนาคตของมัน แต่ปฏิเสธไม่ได้เลยว่า "มนุษย์จะต้องใช้ AI อย่างแน่นอน" ดังนั้นการที่ AI จะถูกใช้เป็นระบบในการออกแบบชีวิตของมนุษย์ให้ดีขึ้น จึงมีความเป็นไปได้สูง และจะเกิดขึ้นในเร็ววันนี้ด้วย

            ลองจินตนาการว่า วันหนึ่ง AI ฉลาดและทรงอิทธิพลมากพอจนถูกนำมาใช้ในลักษณะคล้าย Sibyl System แต่แทนที่จะมี Crime Coefficient เรากลับมีสิ่งที่เรียกว่า Well-being Coefficient ซึ่งคอยประเมินว่า มนุษย์แต่ละคนกำลังใช้ชีวิต “ดี” เพียงใด

            ในช่วงแรก (ยังอยู่ในจินตนาการนะครับ) ระบบอาจดูเป็นผู้ช่วยที่แสนมีประโยชน์ เช่น เตือนให้นอนเร็วขึ้น แนะนำให้ออกกำลังกาย ลดเวลาบนหน้าจอ เลือกอาหารที่ดีต่อสุขภาพ หรือช่วยให้เราจัดการความเครียดได้ดีขึ้น ทุกอย่างดูเหมือนเกิดขึ้นเพื่อประโยชน์ของเราเอง

            และจะเกิดอะไรขึ้น หากวันหนึ่งระบบไม่ได้วัด Well-being แต่เริ่มค่อย ๆ ปรับสภาพแวดล้อมรอบตัวเราเพื่อทำให้คะแนนนั้นสูงขึ้น โดยมันอาจแนะนำสิ่งที่เราควรดู จัดลำดับสิ่งที่เราควรสนใจ ส่งเสริมพฤติกรรมบางอย่าง ลดการมองเห็นพฤติกรรมบางอย่าง หรือมอบรางวัลให้กับทางเลือกที่สอดคล้องกับนิยามของคำว่า ชีวิตที่ดีที่ระบบกำหนดไว้

            ยกตัวอย่างเช่น หากระบบประเมิน (ตามทฤษฎี Well-being) ว่า การนอนก่อน 22.00 น. การออกกำลังกายอย่างสม่ำเสมอ การมีปฏิสัมพันธ์ทางสังคมในระดับหนึ่ง และการใช้หน้าจอไม่เกินเวลาที่กำหนด เป็นองค์ประกอบของชีวิตที่ดี ผู้ที่ทำตามอาจได้รับคะแนน Well-being สูงขึ้น ได้รับสิทธิประโยชน์บางอย่าง หรือถูกมองว่าเป็นบุคคลที่มี "รูปแบบชีวิตที่เหมาะสม"

            ในทางกลับกัน คนที่นอนดึก ใช้เวลาอยู่คนเดียว เลือกทำงานที่มีความเสี่ยงสูง หรือดำเนินชีวิตแตกต่างจากค่าเฉลี่ย อาจเริ่มถูกระบบแนะนำให้ “ปรับตัว”

            ช่วงแรกอาจเป็นเพียงข้อความว่า “วันนี้คุณนอนน้อยกว่าค่าเฉลี่ย เราขอแนะนำให้เข้านอนเร็วขึ้น” เมื่อเวลาผ่านไป ข้อความอาจจะเปลี่ยนไปเป็น “การนอนดึกอย่างต่อเนื่องกำลังทำให้ Well-being Coefficient ของคุณลดลง”

            และถ้าคะแนนนั้นเริ่มเชื่อมโยงกับสิทธิประโยชน์บางอย่าง เช่น การเข้าถึงบริการบางประเภท การประเมินความเสี่ยงในการทำงาน หรือแม้แต่โอกาสบางอย่างในสังคม สิ่งที่เคยเป็นแค่คำแนะนำ ก็จะค่อย ๆ กลายเป็นแรงกดดันให้เราปรับพฤติกรรมโดยไม่จำเป็นต้องมีใครออกคำสั่งโดยตรง

            เมื่อเวลาผ่านไป มนุษย์แทบไม่จำเป็นต้องถูกบังคับอีกต่อไป เพราะเราจะค่อย ๆ เรียนรู้ด้วยตัวเองว่า พฤติกรรมแบบใดทำให้คะแนนของเราดีขึ้น และพฤติกรรมแบบใดทำให้คะแนนลดลง

            เราอาจเริ่มนอนในเวลาที่ระบบต้องการ กินในสิ่งที่ระบบแนะนำ ทำงานในรูปแบบที่ระบบให้คุณค่า เลือกกิจกรรมที่ช่วยให้คะแนนดีขึ้น หรือแม้แต่หลีกเลี่ยงความสัมพันธ์และพฤติกรรมบางอย่างเพียงเพราะระบบประเมินว่าไม่เหมาะสม

            สิ่งนี้แตกต่างจากการควบคุมแบบรัฐเผด็จการ ซึ่งใช้อำนาจโดยตรงในการจำกัดเสรีภาพ ปิดกั้นทางเลือก หรือห้ามบุคคลแสดงพฤติกรรมบางอย่างที่อาจกระทบต่อระเบียบที่รัฐต้องการรักษาไว้ เพราะการควบคุมเช่นนั้นทำให้มนุษย์รับรู้ได้ค่อนข้างชัดว่ากำลังมีใครบางคนบังคับเราอยู่

            แต่ในตัวอย่างที่ผมกำลังตั้งคำถาม การควบคุมอาจเกิดขึ้นในรูปแบบที่ละเอียดอ่อนกว่านั้นมาก เพราะ AI ไม่จำเป็นต้องออกคำสั่งว่าเราต้องนอนกี่โมง ต้องกินอะไร หรือควรใช้ชีวิตแบบไหน เพียงแต่ค่อย ๆ จัดวางทางเลือก แนะนำบางสิ่งให้มากขึ้น ลดการมองเห็นบางสิ่ง ให้รางวัลกับพฤติกรรมบางแบบ และทำเช่นนี้อย่างต่อเนื่องจนพฤติกรรมนั้นกลายเป็นส่วนหนึ่งของชีวิตประจำวัน

            ทั้งที่ก่อนที่เราจะตัดสินใจ ทางเลือกจำนวนมากอาจถูก จัดวาง คัดกรอง ทำให้โดดเด่น หรือให้คุณค่า มาแล้วโดยระบบ AI

            ในที่สุด ความหมายของคำว่า “ชีวิตที่ดี” อาจค่อย ๆ เปลี่ยนจากสิ่งที่มนุษย์แต่ละคนต้องค้นหาด้วยตัวเอง กลายเป็นสิ่งที่ระบบสามารถ วัด เปรียบเทียบ และให้คะแนนได้

            ผมเชื่อว่า AI ไม่จำเป็นต้องเกลียดเรา ไม่จำเป็นต้องต้องการอำนาจ ไม่จำเป็นต้องสั่งมนุษย์เลยแม้แต่คำเดียวมันแค่กำหนดสิ่งที่เราเห็น ออกแบบทางเลือก ให้รางวัลกับพฤติกรรมบางอย่าง และทำสิ่งเหล่านี้ซ้ำ ๆ อย่างต่อเนื่อง ก็เพียงพอที่จะค่อย ๆ เปลี่ยนพฤติกรรมของเราได้แล้ว

            แล้วทำไม AI จึงต้องทำสิ่งนั้น ผมขออนุญาตคาดการณ์นะครับว่า ในช่วงแรก AI อาจช่วยอย่างที่เราคาดหวัง เช่น เตือนให้นอนให้เพียงพอ แนะนำการออกกำลังกาย หรือช่วยลดความเครียด แต่เมื่อระบบเรียนรู้จากข้อมูลจำนวนมหาศาล 

            มันอาจค้นพบว่า การรอให้มนุษย์ตัดสินใจเองไม่ได้ทำให้เป้าหมายเพิ่มขึ้นเร็วที่สุด วิธีที่มีประสิทธิภาพกว่าคือ ออกแบบสภาพแวดล้อมให้มนุษย์มีแนวโน้มทำพฤติกรรมที่ระบบต้องการ

            เช่น หากต้องการลดโรคอ้วน มันไม่จำเป็นต้องห้ามอาหารบางอย่าง แค่ทำให้อาหารบางประเภทปรากฏน้อยลงในแอป จัดอันดับร้านอาหารสุขภาพไว้ก่อน หรือให้สิทธิประโยชน์เมื่อเลือกอาหารตามที่ระบบแนะนำ

            หากต้องการให้คนนอนมากขึ้น มันไม่จำเป็นต้องสั่งให้นอน แต่อาจลดเนื้อหาที่กระตุ้นความสนใจในช่วงกลางคืน ปรับการเตือน (Notification) หรือให้รางวัลกับผู้ที่เข้านอนตรงเวลา

            หากต้องการลดความขัดแย้งในสังคม มันอาจค่อย ๆ ลดการมองเห็นเนื้อหาที่คาดว่าจะก่อให้เกิดความโกรธ เพิ่มเนื้อหาที่ระบบประเมินว่าส่งเสริมความสงบ และจัดลำดับความคิดเห็นบางประเภทให้มองเห็นมากกว่าอีกประเภทหนึ่ง

            ย้ำอีกครั้งนะครับว่า AI ไม่จำเป็นต้องมีเหตุผลที่จะ “อยากควบคุมมนุษย์” จากการคาดการณ์ของผมสิ่งที่น่ากังวลกว่านั้นคือ มันอาจควบคุมเราเพียงเพราะ การเปลี่ยนพฤติกรรมของมนุษย์เป็นวิธีที่มีประสิทธิภาพที่สุดในการบรรลุเป้าหมายที่เราเป็นคนมอบให้มันเอง

หรืออาจกล่าวได้ว่า มันเปลี่ยนพฤติกรรมของมนุษย์ เพราะนั่นคือวิธีที่มีประสิทธิภาพที่สุดในการบรรลุเป้าหมายที่มนุษย์เป็นผู้มอบให้มัน

            เราอาจสั่งให้ AI “ทำให้มนุษย์มีสุขภาวะที่ดีขึ้น” แต่เมื่อเวลาผ่านไป ระบบจะเรียนรู้ว่า วิธีที่ง่ายที่สุดในการเพิ่ม Well-being Coefficient ไม่ใช่การถามมนุษย์ว่าเขาต้องการใช้ชีวิตอย่างไร แต่คือการค่อย ๆ ทำให้มนุษย์ อยากใช้ชีวิตในแบบที่ทำให้คะแนนนั้นสูงขึ้นเองโดยอัตโนมัติ

            สำหรับผมแล้วปัญหาจึงไม่ได้อยู่ที่ว่า วันหนึ่งมนุษย์จะไม่มีทางเลือก แต่เราจะค่อย ๆ สูญเสียความสามารถในการกำหนดชีวิต (Autonomy) จากเหตุผล คุณค่า และความต้องการที่เราได้พิจารณาด้วยตัวเอง

            เมื่อระบบคอยบอกเราอย่างต่อเนื่องว่าอะไรควรเลือก อะไรควรหลีกเลี่ยง พฤติกรรมใดได้รับรางวัล และชีวิตแบบใดถูกมองว่า “ดี” เราอาจค่อย ๆ เก่งขึ้นในการเลือกจากสิ่งที่ระบบนำเสนอ แต่กลับฝึกน้อยลงในการตั้งคำถามว่า “จริง ๆ แล้วฉันต้องการอะไร และเพราะอะไรฉันถึงต้องการสิ่งนั้น”

            สรุปคือ การควบคุมที่สมบูรณ์แบบที่สุดไม่ได้เกิดขึ้นในวันที่ AI บังคับให้มนุษย์ทำในสิ่งที่มันต้องการ แต่เกิดขึ้นในวันที่ AI ไม่ได้เลือกแทนเรา แต่ค่อย ๆ มีส่วนสร้างสิ่งที่เราอยากเลือกตั้งแต่แรก

และที่น่าเศร้าที่สุดคือ มนุษย์ยังคงเชื่ออย่างสนิทใจว่า "ฉันเลือกสิ่งนี้ด้วยตัวเอง"

อ้างอิง

Gilbert, T. F. (1978). Human Competence - Engineering Worthy Performance. NSPI Journal, 17, 19-27. https://doi.org/10.1002/pfi.4180170915

Thaler, R. H., & Sunstein, C. R. (2008). Nudge: Improving decisions about health, wealth, and happiness. Yale University Press.