ขั้วโรคระบาด AI ความชุบชวนความปลอดภัย

(SeaPRwire) –   ในปี 2023 นักตรวจสอบอาวุธขององค์การสหประชาชาติเก่าที่เป็นนักวิทยาศาสตร์ Rocco Casagrande เข้ามาในอาคารสำเนา Eisenhower ซึ่งอยู่ติดกับปีกตา West ของบ้านขวัญ พร้อมพาภาชนะปิดขนาดเล็ก ๆ มากับเข้าไป ภายในมีหลอดทดสอบจำนวนหนึ่งสิบสองหลอด ซึ่งบรรจุสารพันธุ์ที่ถูกจัดวางให้ถูกต้อง จะทำให้เกิดระบาดโรคระทึกที่เป็นอันตรายต่อชีวิต

ตามที่ Casagrande บอกไว้ แชทบ็อตด้วย AI ไม่ได้เพียงแต่ให้สูตรความรุนแรงแก่เขาเท่านั้น แต่ยังให้แนวคิดเกี่ยวกับวิธีการเลือกสภาพอากาศที่เหมาะสมและเป้าหมายสำหรับการโจมตีด้วยเช่นกัน เขาไปที่นั่นเพื่อ brief คำแนงของรัฐบาลเกี่ยวกับความเสี่ยงของระบาดโรคที่เกิดจาก AI สิ่งที่นำมาจะส่งข้อความที่มีอำนาจต่อเจ้าหน้าที่ด้านความมั่นคงเกี่ยวกับว่าการที่ AI ทำลายขั้นรับแรงในการออกแบบอาวุธที่มีผลกระทบอย่างรุนแรงได้อย่างไร

ขั้นรับแรงในการออกแบบอาวุธที่ทำให้เกิดระบาดโรคได้ถูกลดลงแล้ว และนักวางนโยบายมี สมมติว่ามีการประกอบมาตรการป้องกัน และ ให้ความสำคัญกับการป้องกันทางเคมีและทางชีวภาพเป็นส่วนยอดเยี่ยม

อาจเป็นเพราะมีความกังวลเป็นจริงและความเสี่ยงของความรับผิดชอบทางกฎหมาย ที่ทำให้บริษัท AI ที่อยู่ที่หน้าต่างของขั้นก็มีแสดงการนำหน้า ซึ่งสะท้อนออกมาจากการ ที่ยอดนิยมในยอดนิยมของเซาอูล์ เบอร์นันมีบริษัทเหล่านี้ได้ลงมติเป็นทางการในระดับสาธารณะเพื่อลดความเสี่ยงในทั้งวงจรทางเคมี ชีวภาพ เส้นทางรังสี นิวเคลียร์ และระเบิด (CBRNe)

อย่างไรก็ตาม แม้ว่าจะมีขั้นตอนเหล่านี้ แต่ยังมีช่องว่างความมั่นคงที่น่าตกใจอยู่ เหมาะสมที่บริษัทมุ่งเน้นไปที่ระบาดโรค แต่ระบบสังคมมุ่งเน้นเกินไปที่แบบจำลองผู้ก่อการร้ายไวรัสแบบ “คนโดดเดี่ยว” เป็นภัยที่รุนแรงที่สุด มีความสนใจน้อยมากเกี่ยวกับสถานการณ์ความเสี่ยงอื่น ๆ ทั้งหมด การมุ่งเน้นไปที่ผู้กระทำบุคคลทำให้ภัยจากรัฐและกลุ่มก่อการร้ายอยู่ในภาวะที่ไม่ได้รับการตรวจสอบอย่างมีประสิทธิภาพ

ยิ่งไปกว่านั้น ความเสี่ยงของไวรัสระบาดโรคไม่ใช่เป็นตัวแทนเพียงพอสำหรับภัยอื่น ๆ ขั้นตอนทางเทคนิคในการสร้างระเบิดขั้นพื้นฐาน สารบังเอิญทางชีวภาพที่ไม่สามารถแพร่กระจายได้ และอาวุธเคมี มีความแตกต่างจากไวรัสทางชีวภาพที่สามารถแพร่กระจายได้ การสร้างและใช้งานอาวุธเคมีเช่นสารซาริน ต่อต้านกับไวรัส มีความแตกต่างอย่างแท้จริงในขั้นตอนทางเทคนิคเพื่อเหตุนี้ เราต้องการการทดสอบความปลอดภัยของ AI ที่แตกต่างกัน

อย่างไรก็ตาม ด้วยตัวเอง เส้นทางความเสี่ยงเหล่านี้ “ที่น้อยกว่า” ยังสามารถฆ่าคนจำนวนมาก ทำลายชุมชน และกระจายความโกลาหลทั่วประเทศ เราอยู่ในภาวะที่มีความเสี่ยงในการสร้างระบบความปลอดภัยที่มุ่งเน้นไปที่ป้องกันระบาดโรคต่อไป แต่ปล่อยประตูเปิดกว้างสำหรับรูปแบบการร้ายแรงอื่น ๆ

น่าสงสัยมาก เราได้เห็นว่าห้องทดลอง AI ใหญ่ ๆ อยู่ในภาวะที่ไม่ทำตามคำสัญญาเกี่ยวกับความปลอดภัย ความน่าจะเป็นเพราะส่วนหนึ่งของมันขาดข้อมูลที่มีความลับเพื่อปฏิบัติคำสัญญา เช่น บางบริษัท AI พิมพ์รายงานการทดสอบเกี่ยวกับว่าชุดโมเดลของพวกเขาสามารถช่วยทำให้เกิดระบาดโรคได้หรือไม่ แต่พวกเขาไม่ได้ระบุรายละเอียดว่าชุดโมเดลเดียวกันสามารถช่วยในการโจมตีด้วยสารเคมีหรือระเบิดขั้นพื้นฐานได้หรือไม่

ข้อห้ามเหล่านี้เป็นอันตราย อาร์ไอที่มีความสามารถสูงไม่เพียงแต่สามารถช่วยให้บุคคลสร้างอาวุธได้ แต่ยังสามารถช่วยให้พวกเขาโกงเกี่ยวกับควบคุมการส่งออกและซ่อนร่องรอย ทำให้ใคร ๆ ก็สามารถหลีกเลี่ยงขั้นรับแรงระหว่างประเทศได้อย่างไม่ถูกสังเกตุ สำคัญมาก ความขาดตาเหล่านี้ทำให้เราทุกคนเป็นเป้าหมายของระบาดโรคที่เราหวังอย่างมาก อย่างไรก็ตาม ผู้กระทำผิดปกติที่สำรวจการใช้ AI เพื่อโจมตีด้วยสารเคมีหรือระเบิดในวันนี้อาจจะกำลังฝึกฝนการโจมตีด้วยไวรัสในวันพรุ่งนี้

ถ้าระบบความปลอดภัยของเราได้รับการออกแบบเพื่อแสดงเพียงสัญญาณสีแดงสำหรับภาวะวิกฤตโลก เราจะพลาดสัญญาณเตือนนำไปสู่ภาวะนั้น

เราต้องการการจำแนกความเสี่ยงกว้างขอบ โดยมีการระบุโดยผู้เชี่ยวชาญ การปรับสมดุลพื้นฐานจำเป็นเพื่อจัดการกับภัยจาก AI ที่มีความเป็นไปได้มากกว่า ไม่เพียงแต่ภัยที่รุนแรงที่สุด บริษัทที่อยู่ที่หน้าต่างของขั้นและชุมชนของสถาบันที่ให้คำปรึกษาแก่พวกเขาไม่สามารถแก้ปัญหานี้ได้ด้วยตัวเอง เพราะพวกเขาขาดข้อมูลที่มีความลับเพื่อทำให้เข้าใจภัยจากรัฐและผู้กระทำที่ไม่ใช่เป็นรัฐอย่างชัดเจน และกลไกของรัฐบาลและการเกี่ยวข้องระหว่างประเทศที่จำเป็นเพื่อสร้างกฎหมาย โครงสร้าง และความร่วมมือที่จำเป็นเพื่อตอบโจมความท้าทายนี้ ในทางกลับกัน รัฐบาลขาดความเข้าใจเต็มที่เกี่ยวกับความสามารถของ AI และความรู้เอกชนเฉพาะทาง เช่นเดียวกับข้อมูลพฤติกรรมผู้ใช้ที่น่าสงสัยที่จำเป็น สำนึกเงียบที่อันตรายเกิดขึ้นจากขั้นขาดข้อมูลเหล่านี้

ความร่วมมือระหว่างเอกชนและเอกชนควรได้รับการออกแบบเพื่อความมั่นคงของชาติ ความร่วมมือดังกล่าวจะรวมข้อมูลที่มีความลับของรัฐกับข้อมูลเฉพาะทางของบริษัทเทคโนโลยีและบุคคลที่สาม ทำให้เกิดการรวมบุคคลที่ได้รับอนุญาตให้เห็นข้อมูลเพื่อระมัดระวังภัยที่ไม่สามารถเห็นได้ด้วยด้านใดด้านหนึ่งเท่านั้น การนี้จะต้องมีความคิดสร้างสรรค์สูงเกินกว่าที่เคยพยายามมาก่อน แต้ประโยชน์จะมีมากมาย

จริง ๆ ความประจักษ์และประวัติศาสตร์สอนให้เราทราบว่าการประมงการและนโยบายสามารถช่วยชีวิตได้ ประมาณครึ่งศตวรรษที่แล้ว ผู้นำโลกเข้ามาใน และลงนามในสัญญาประกอบไม่มีการสร้างอาวุธทางชีวภาพและสารพิษ และเมื่อปีที่แล้วเป็นร้อยปีของการ ซึ่งห้ามการใช้อาวุธทางเคมีและทางชีวภาพในการสงครามทหารระหว่างประเทศ ทั้งสองเป็นสัญญาประกอบที่แสดงถึงความไม่มนุษย์ของการใช้อาวุธเหล่านี้และความรับผิดชอบร่วมของเราในการรับประกันว่ามันจะไม่เกิดขึ้น

เมื่อหนึ่งร้อยปีที่แล้ว ผู้ที่เข้าใจถึงศักยภาพที่ทำลายล้างของเทคโนโลยีใหม่รู้สึกถึงความต้องการที่จะรับมือกับความท้าทายที่สามารถคาดการณ์ได้ทั้งหมดอย่างมุ่งมั่น

ในยุคที่แตกต่างอย่างมาก เราต้องการความมุ่งมั่นเดิมอีกครั้ง – และเราต้องการมันก่อนที่จะเป็นเกินไป