หลักการโบราณที่สามารถช่วยให้เราตรวจจับ AI ปลอมได้

(SeaPRwire) –   คุณไม่จำเป็นต้องใช้เทคโนโลยีขั้นสูงเพื่อหลอกลวงผู้คนบนโลกออนไลน์ เราแสดงวิดีโอคุณภาพต่ำให้เด็กนักเรียนมัธยมปลายกว่า 3,000 คนเห็นภาพเจ้าหน้าที่เลือกตั้งกำลังทิ้งบัตรเลือกตั้งเพื่อโกงการเลือกตั้ง คำบรรยายภาพที่แปะไว้ด้วยตัวอักษรสีแดงขนาดใหญ่และพิมพ์ด้วยตัวพิมพ์ใหญ่ทั้งหมดก็เพียงพอที่จะหลอกให้นักเรียนเชื่อเรื่องการทุจริตการเลือกตั้งของสหรัฐฯ ทั้งๆ ที่วิดีโอดังกล่าวมาจากรัสเซีย มีนักเรียนเพียงสามคนเท่านั้นที่จับได้

เราได้โต้แย้งมานานแล้วว่า “cheap fakes” (ของปลอมราคาถูก) เป็นอันตรายยิ่งกว่า “deepfakes” (ของปลอมขั้นสูงที่สร้างโดย AI) เพราะเกือบจะให้ผลลัพธ์ที่มีประสิทธิภาพเท่ากันแต่ทำได้ง่ายกว่ามาก ในการเลือกตั้งครั้งที่ผ่านมา แม้จะมีเครื่องมือ AI ให้ใช้งานแก่คนทั่วไป แต่สิ่งที่เป็นประเด็นถกเถียงเรื่องความเหมาะสมของประธานาธิบดี Joe Biden ในการปฏิบัติหน้าที่นั้น กลับเป็นคลิปที่ถูกตัดต่อด้วยวิธีง่ายๆ

ตอนนี้ ยุคของ “cheap fakes” กำลังจะสิ้นสุดลง ภาพปลอมที่สร้างขึ้นด้วยเครื่องมือวิดีโอใหม่ๆ กำลังนำไปสู่ภูมิทัศน์ข้อมูลที่อันตรายยิ่งขึ้น ต้องขอบคุณผลิตภัณฑ์อย่าง Google’s Veo 3, OpenAI’s Sora 2 และ Meta’s Vibes ที่ทำให้การสร้าง “AI slop” (เนื้อหาที่สร้างโดย AI คุณภาพต่ำ) นั้นง่ายดายเสียจนแพร่กระจายไปทั่วหน้าจอของเรา โดยได้รับการสนับสนุนจากการลดระดับการตรวจสอบของแพลตฟอร์มต่างๆ เพื่อสำรวจอินเทอร์เน็ตในปัจจุบัน เราต้องการคำแนะนำจากภูมิปัญญาโบราณ: การเน้นย้ำถึงความสำคัญของชื่อเสียงที่สืบทอดกันมาแต่โบราณในศาสนาอิสลาม ยิว พุทธ และศาสนาอื่นๆ

ชาวมุสลิมผู้เคร่งครัดจะสืบย้อนคำกล่าวของท่านศาสดามูฮัมหมัดผ่าน “สายใยของการเล่าเรื่อง” หรือ “isnad” ชาวยิวผู้เคร่งศาสนาจะตีความคำสอนในคัมภีร์ทัลมุดในบริบทของรับบีผู้กล่าวคำสอนนั้น ชาวพุทธในทิเบตจะส่งต่อหลักคำสอนด้วยวาจาจากพระพุทธเจ้ามาจนถึงปัจจุบัน ประเพณีเหล่านี้ล้วนส่งเสริมให้เราใช้เหตุผลกับข้อมูล แต่จะทำเช่นนั้น หลังจากที่เราสืบย้อนกลับไปยังแหล่งที่มาและประเมินชื่อเสียงของปราชญ์ผู้สนับสนุนข้อมูลนั้น

ชื่อเสียงมีความสำคัญในบริบททางโลกด้วยเช่นกัน: มันเป็นกลไกที่เราใช้ในการตัดสินใจเมื่อเราขาดความรู้และความเชี่ยวชาญ เราพึ่งพาชื่อเสียงเมื่อเลือกนักบำบัดหรือช่างประปา ร้านอาหารที่จะไปหรือโรงแรมที่จะจอง เราถามคนที่เราเชื่อใจและปรึกษาบทวิจารณ์เพราะเราตระหนักว่าไม่มีใครน่าจะเปิดเผยข้อบกพร่องหรือแรงจูงใจแอบแฝงของตนเอง

ชื่อเสียงมีความสำคัญอย่างยิ่งในหลายด้านของชีวิตเรา แล้วทำไมบนอินเทอร์เน็ต ผู้คนส่วนใหญ่จึงละเลยมัน?

งานวิจัยของเราได้ทดสอบความสามารถของคนหนุ่มสาวหลายพันคนในการประเมินข้อมูลออนไลน์ ซ้ำแล้วซ้ำเล่า เราเห็นพวกเขาตัดสินเนื้อหาโดยไม่คำนึงถึงแหล่งที่มา นักเรียนคนหนึ่งจากชนบทในรัฐโอไฮโอเชื่อวิดีโอการฉ้อโกงการเลือกตั้ง เพราะพวกเขาคิดว่าสายตาเปล่าของตนสามารถตรวจจับ “การฉ้อโกงในหลายๆ รัฐที่แตกต่างกัน” ได้ นักเรียนคนหนึ่งจากรัฐเพนซิลเวเนียเขียนว่าวิดีโอดังกล่าว “แสดงให้เห็นอย่างชัดเจนว่าผู้คนกำลังใส่คะแนนปลอมลงในกล่อง”

รูปแบบเดียวกันนี้ยิ่งทวีความรุนแรงขึ้นเมื่อเป็นเรื่องของ AI ครูคนหนึ่งที่แบ่งปันประสบการณ์กับเราเล่าว่าได้ถามนักเรียนคนหนึ่งว่าพวกเขารู้ได้อย่างไรว่าข้อมูลจาก ChatGPT ถูกต้อง นักเรียนคนนั้นยื่นโทรศัพท์ไปตรงหน้าครู: “ดูสิ มันบอกไว้ตรงนี้เลย!” การศึกษาเบื้องต้นของเราในห้องเรียนมัธยมปลายและวิทยาลัยเผยให้เห็นแนวโน้มที่คล้ายกัน: นักเรียนจำนวนมากไว้วางใจ AI chatbots แม้ว่า chatbots เหล่านั้นจะละเว้นบริบทเกี่ยวกับแหล่งที่มาของข้อมูลก็ตาม

ผู้ใช้อินเทอร์เน็ตจำนวนมากเกินไปล้มเหลวในการพิจารณาชื่อเสียง หรือเข้าใจผิดว่าอัลกอริทึมหรือยอดไลก์เป็นแหล่งข้อมูลที่ผ่านการตรวจสอบแล้ว แทนที่จะเป็นการตัดสินใจของมนุษย์ที่บกพร่อง เมื่อผู้คนพยายามประเมินชื่อเสียง พวกเขาจะถูกชักจูงด้วยสัญญาณที่หลอกลวงได้ง่ายซึ่งมาจากแหล่งที่มาเอง: โดเมนที่ลงท้ายด้วย .org ภาษาที่ดูเป็นทางการในหน้า “เกี่ยวกับ” ปริมาณข้อมูลโดยไม่คำนึงถึงคุณภาพ หรือความรู้สึกตามสัญชาตญาณเกี่ยวกับวิธีที่บางสิ่งดูเหมือน

คุณลักษณะเหล่านี้เป็นประกายราวกับทองคำคนโง่ ใครๆ ก็สามารถมีที่อยู่โดเมน .org ได้ รวมถึงกลุ่มผู้เกลียดชัง เว็บไซต์ที่ปฏิเสธการฆ่าล้างเผ่าพันธุ์อ้างในหน้าเกี่ยวกับของตนว่า “ให้ข้อมูลที่เป็นข้อเท็จจริง” โพสต์ที่มีแผนภูมิสวยหรูอาจมีข้อมูลที่ผิดที่เป็นอันตราย และรายงานต่างๆ ชี้ว่า AI มีความสมจริงเสียจนทำให้เราต้องสงสัยประสาทสัมผัสของเราเอง: ตั้งแต่เสียงที่ฟังดูเหมือนพ่อแม่ของเรา ไปจนถึงวิดีโอที่สมจริงสุดๆ ของไฟที่ลุกท่วม Space Needle ของซีแอตเทิล

ภูมิทัศน์ข้อมูลนี้เสนอทางเลือกที่ไม่มีผู้ชนะระหว่างการยอมจำนนและการยึดมั่นในตัวเอง: ไม่สนใจว่าอะไรจริง หรือยืนกรานว่าไม่มีอะไรจริงเลย แบบแรกทำให้เราตกเป็นเหยื่อของผู้ไม่ประสงค์ดีที่ใช้วิดีโอที่สมจริงเป็นอาวุธ แบบหลังทำให้เราปราศจากข้อมูลที่ดี ทางเลือกทั้งสองนี้บ่อนทำลายความเป็นพลเมืองที่มีข้อมูลครบถ้วนในยามที่สิ่งนี้ขาดแคลน

นี่คือสิ่งที่เราทำได้: แทนที่จะมุ่งเน้นที่เนื้อหา ให้ถามก่อนว่าใครอยู่เบื้องหลัง เช่นเดียวกับที่ธรรมเนียมความเชื่อต่างๆ พิจารณาคำสอนในบริบทของผู้กล่าวคำสอนนั้น

และเมื่อใช้ทักษะอย่างเชี่ยวชาญ เครื่องมือเดียวกับที่ทำให้เราเข้าใจผิดก็สามารถช่วยให้เราหลุดพ้นจากปัญหานี้ได้ ไม่ใช่โดยการมอบหมายความคิดของเราให้เทคโนโลยี แต่โดยการใช้เทคโนโลยีเพื่อสร้างชื่อเสียงและลับคมความคิดของเรา

นักเรียนสามคนผู้จับได้ว่าวิดีโอการฉ้อโกงการเลือกตั้งมาจากรัสเซียนั้นไม่ได้ใช้เวทมนตร์ทางเทคนิคใดๆ พวกเขาเพียงแค่เปิดแท็บใหม่ พิมพ์คำค้นหาบางคำ และพบบทความจากแหล่งที่น่าเชื่อถือเช่น BBC และ Snopes ที่หักล้างวิดีโอดังกล่าว และด้วยคำแนะนำที่ชาญฉลาดเพียงเล็กน้อยเกี่ยวกับวิธีการทำงานของ LLM และวิธีจัดโครงสร้างพร้อมต์ให้มีประสิทธิภาพ AI ก็สามารถช่วยในการตรวจสอบโพสต์บนโซเชียลมีเดียและให้บริบทที่ขาดหายไปได้จริง

เครื่องมือ AI หลักๆ รวมถึงคำเตือนที่บอกให้ผู้ใช้ตรวจสอบข้อมูล “Gemini อาจทำผิดพลาดได้ ดังนั้นโปรดตรวจสอบซ้ำ” Google กล่าว “ChatGPT อาจทำผิดพลาดได้ ตรวจสอบข้อมูลสำคัญ” OpenAI แนะนำ แต่ตั้งแต่ Generation Alpha ไปจนถึงกลุ่มผู้สูงอายุ เกือบทุกคนประสบปัญหาในการตรวจสอบข้อมูลที่พวกเขาพบ

ข่าวดีก็คือ เราทุกคนสามารถทำได้ดีขึ้นได้ แม้แต่การสอนเพียงไม่กี่ชั่วโมงเกี่ยวกับวิธีการประเมินชื่อเสียงก็สามารถสร้างความแตกต่างได้—ดังที่เราเห็นในการศึกษาที่เราดำเนินการมาแล้วทุกที่ ตั้งแต่ห้องเรียนมัธยมปลายในรัฐแคลิฟอร์เนียและเท็กซัส ไปจนถึงหลักสูตรวิทยาลัยในรัฐแอริโซนาและแมริแลนด์ ก่อนหน้านี้ นักเรียนไว้วางใจสายตาของตนเองเพื่อดูว่าบางสิ่งน่าเชื่อถือหรือไม่ หลังจากนั้น พวกเขาก็เรียนรู้ที่จะตรวจสอบชื่อเสียงของแหล่งที่มา การศึกษาในแคนาดา ยุโรป ออสเตรเลีย และอินเดีย ก็พบผลลัพธ์เชิงบวกที่คล้ายกัน

เมื่อเราไม่สามารถแยกแยะเนื้อหาจริงออกจากเนื้อหาที่สร้างโดย AI ได้อีกต่อไป การพยายามตัดสินใจว่าจะเชื่ออะไรจึงอาจรู้สึกไร้ประโยชน์อย่างยิ่ง แต่เราสามารถรับมือกับระบบนิเวศความรู้ในปัจจุบันได้ดีขึ้นโดยการยึดมั่นในบทเรียนโบราณ: ความสำคัญของชื่อเสียง