จีนเข้มงวดการเซ็นเซอร์ AI โดยใช้ ‘ศิลปะการล้างสมอง’

(SeaPRwire) –   จีนได้ขยายนโยบายการเซ็นเซอร์และการเฝ้าระวังอีกครั้ง ในขณะที่พยายามควบคุมเทคโนโลยีที่กำลังขยายตัวอย่างต่อเนื่อง

พรรคคอมมิวนิสต์จีน (CCP) ได้นำมาตรการควบคุมเพิ่มเติมเพื่อให้แน่ใจว่าบริษัทเทคโนโลยีในประเทศของตนปฏิบัติตามกฎอุดมการณ์ของพรรค

บริษัท AI ทั้งหมดจำเป็นต้องเข้าร่วมการตรวจสอบของรัฐบาล ซึ่งจะวิเคราะห์แบบจำลองภาษาขนาดใหญ่ (LLM) ของบริษัท เพื่อให้แน่ใจว่า “แสดงคุณค่าหลักของสังคมนิยม” ตามที่รายงานโดย เมื่อสัปดาห์ที่แล้ว

จีนได้ทำงานมาอย่างยาวนานเพื่อกดขี่ข้อมูลที่เข้าถึงได้ผ่านทางอินเทอร์เน็ตผ่านการใช้ “กำแพงไฟร์มหาราช” ซึ่งถูกนำมาใช้เพื่อบล็อกรายการมากมายที่ถูกมองว่าไม่ดีต่อ CCP เช่น ข้อมูลเกี่ยวกับการสังหารหมู่ที่จัตุรัสเทียนอันเหมินในปี 1989 หรือมีมที่เปรียบเทียบประธานาธิบดีสี จิ้นผิงกับวินนี่ เดอะ พูห์

กำแพงไฟร์นี้กำลังถูกขยายไปสู่ ​​AI ในขณะที่ ในขณะที่ยังคงควบคุมเนื้อหาที่สร้างขึ้น

สำนักงานบริหารไซเบอร์สเปซของจีน (CAC) กำลังเรียกร้องให้บริษัท AI เช่น ByteDance, Moonshot และ 01.AI เข้าร่วมกระบวนการตรวจสอบที่วิเคราะห์ประสิทธิภาพของโปรแกรมในการเซ็นเซอร์ LLM ที่พวกเขากำลังสร้าง

ระบบแชทบอทกำลังได้รับการพัฒนาเพื่อไม่เพียงแต่รวบรวมคำสำคัญที่ละเอียดอ่อนเท่านั้น แต่ยังเพื่อบล็อกข้อมูลเกี่ยวกับคำถามที่เกี่ยวข้องกับหัวข้อที่ถูกแบน ซึ่งมักเกี่ยวข้องกับการสอบถามที่เกี่ยวข้องกับสิทธิมนุษยชน

ระบบ AI ในทางกลับกันจะแสดงคำตอบเช่น “ลองถามคำถามอื่น” หรือ “ฉันยังไม่ได้เรียนรู้วิธีตอบคำถามนี้ ฉันจะศึกษาต่อไปเพื่อให้บริการคุณดีขึ้น”

แต่ในความพยายามที่จะป้องกันไม่ให้แชทบอทบล็อกคำถามมากเกินไป นโยบายของ CAC กำหนดว่า LLM ไม่ควรปฏิเสธมากกว่า 5% ของคำถามทั้งหมด ตามรายงานของไฟแนนเชียลไทมส์

แทนที่จะเป็นเช่นนั้น คำตอบแบบครอบคลุมที่ถือว่าถูกต้องทางการเมืองถูกสร้างขึ้นเพื่อตอบคำถามประเภทเฉพาะ แม้ว่าการควบคุมการตอบสนองของ LLM จะเป็นการต่อสู้ที่ยากลำบากสำหรับนักพัฒนา

การแสวงหาของจีนอย่างต่อเนื่องเพื่อควบคุมเรื่องราวในหมู่ประชากรของตนเองพูดถึงภัยคุกคามที่ยิ่งใหญ่ขึ้น Arthur Herman ผู้เชี่ยวชาญด้าน AI ศาสตราจารย์อาวุโสและผู้อำนวยการ Quantum Alliance Initiative กับ Hudson Institute บอกกับ Digital

“นั่นคืออนาคตที่จีนได้วางแผนไว้สำหรับพลเมืองของตนเอง” Herman กล่าว “นี่คือวิธีที่พวกเขาเห็น… ว่าจะควบคุมโลกของผู้อื่นได้อย่างไร”

Herman ชี้ไปที่ความสัมพันธ์ที่กำลังเติบโตของจีนกับประเทศในเขตใต้ ซึ่งแพลตฟอร์มโซเชียลมีเดียเช่น WeChat ได้รับความนิยม

“จะมีการควบคุมทางสังคม การควบคุมจิตใจ องค์ประกอบที่เข้าสู่โปรแกรมเหล่านั้น… และเพื่อสร้างโลกที่ดูเหมือนจีนต้องการให้ดู” เขากล่าว

Herman ยังเตือนด้วยว่ากลยุทธ์เหล่านี้ ในประเทศอำนาจนิยม แต่ทุกที่ที่มีการเข้าถึงแพลตฟอร์ม รวมถึงสหรัฐอเมริกา

“พวกเขารู้จักศิลปะการล้างสมองผ่าน TikTok” Herman กล่าว “วิศวกรชาวจีนได้พบวิธีสร้างแพลตฟอร์มโซเชียลมีเดียซึ่งติดยาเสพติดสูง และยังมีเป้าหมายสูงมากในการล้างสมองผู้ใช้ให้เห็นโลกในแบบที่แน่นอน และตอบสนองต่อสัญญาณภาพและเสียงในแบบที่แน่นอน”

Herman กล่าวว่าการใช้เทคโนโลยี TikTok ของจีนเป็นเพียง “การลิ้มลอง” ว่าปักกิ่งสามารถใช้แอปพลิเคชัน AI ในการจัดการประชากรนอกพรมแดนได้อย่างไร

“จีนมองเห็น AI เป็นวิธีที่จะเปลี่ยนความคิดของผู้คน” เขากล่าว “ความสามารถของ AI ในการเสริมประสิทธิภาพของการล้างสมองและการควบคุมจิตใจ นั้นทรงพลังมาก… แม้ว่าคุณจะไม่ได้อยู่ภายใต้การเฝ้าระวัง แม้ว่าคุณจะไม่ได้ฟังหรือดูการโฆษณาชวนเชื่อที่ได้รับแรงบันดาลใจจากรัฐบาล ก็มีวิธีการละเอียดอ่อนอื่นๆ ที่จิตใจของคุณถูกเปลี่ยนแปลงและปรับแต่งเพียงแค่ปฏิสัมพันธ์ของคุณกับสิ่งต่างๆ ที่เกิดขึ้นในชีวิตประจำวัน ซึ่งถูกกำหนดมากขึ้นโดยวิธีที่พรรคคอมมิวนิสต์ต้องการให้คุณเห็นโลก”

บทความนี้ให้บริการโดยผู้ให้บริการเนื้อหาภายนอก SeaPRwire (https://www.seaprwire.com/) ไม่ได้ให้การรับประกันหรือแถลงการณ์ใดๆ ที่เกี่ยวข้องกับบทความนี้

หมวดหมู่: ข่าวสําคัญ ข่าวประจําวัน

SeaPRwire จัดส่งข่าวประชาสัมพันธ์สดให้กับบริษัทและสถาบัน โดยมียอดการเข้าถึงสื่อกว่า 6,500 แห่ง 86,000 บรรณาธิการและนักข่าว และเดสก์ท็อปอาชีพ 3.5 ล้านเครื่องทั่ว 90 ประเทศ SeaPRwire รองรับการเผยแพร่ข่าวประชาสัมพันธ์เป็นภาษาอังกฤษ เกาหลี ญี่ปุ่น อาหรับ จีนตัวย่อ จีนตัวเต็ม เวียดนาม ไทย อินโดนีเซีย มาเลเซีย เยอรมัน รัสเซีย ฝรั่งเศส สเปน โปรตุเกส และภาษาอื่นๆ