เนื้อหา
- ถูกไล่ออกจากเครื่อง
- ระบบอัตโนมัติและการหยุดงาน
- ไม่มีข้อบกพร่องไม่มีความเครียด - คู่มือแบบเป็นขั้นตอนเพื่อสร้างซอฟต์แวร์ที่เปลี่ยนแปลงชีวิตโดยไม่ทำลายชีวิตของคุณ
- แอพพลิเคชั่นจาก Consumer Electronics
- คืนการควบคุม
- มันทำงานได้อย่างไร
ที่มา: Artinspiring / Dreamstime.com
Takeaway:
เพื่อให้ระบบอัตโนมัติสามารถทำงานร่วมกับและเพื่อมนุษยชาติมากกว่าที่จะต่อต้านเราจำเป็นต้องมีระบบป้องกันและมนุษย์ที่ได้รับการแจ้งเตือนเพื่อหยุดหรือแก้ไขข้อผิดพลาดของระบบ
“ การทำผิดคือมนุษย์ สิ่งที่เลวร้ายจริงๆต้องใช้คอมพิวเตอร์” วิลเลียมอี. วอห์นทำข้อสังเกตนี้ย้อนกลับไปในปี 2512 การควบคุมระบบอัตโนมัตินั้นมีศักยภาพสำหรับระบบที่จะผิดพลาดและก่อให้เกิดอันตรายร้ายแรงก่อนที่จะมีการตรวจสอบ
ระบบอัตโนมัติไม่ใช่เรื่องใหม่ แต่มันได้กลายเป็นที่แพร่หลายมากขึ้นด้วยการบูรณาการระบบดิจิตอลและกายภาพ ข้อดีของระบบอัตโนมัติในระดับที่ยอดเยี่ยมคือประสิทธิภาพที่ยอดเยี่ยม แต่ข้อเสียของการใช้ระบบ set-it-and-forget-it คือคนที่ไม่สามารถตั้งค่าได้อย่างถูกต้อง
ด้วยระบบที่ติดตามอย่างต่อเนื่องโดยไม่มีการแทรกแซงและไม่มีวิธีหยุดเครื่องจักรคุณสามารถมีผลการทำลายล้างได้ ดังนั้นเทคโนโลยีสามารถสร้างประเภทของสถานการณ์ที่ปรากฎใน“ The Sorcerer's Apprentice” เมื่อสิ่งที่ดูเหมือนจะทำให้ชีวิตง่ายขึ้นจริง ๆ แล้วควบคุมไม่ได้
ถูกไล่ออกจากเครื่อง
การทำงานอัตโนมัติโดยปราศจากการแทรกแซงเป็นสิ่งที่ทำให้คนงานด้านเทคโนโลยีในสหราชอาณาจักรค้นพบตัวเองจากงานโดยไม่มีสาเหตุเมื่อปีที่แล้ว อิบราฮิมดิอัลโลสังเกตว่าการ์ดความปลอดภัยของเขาไม่ได้ทำงานและมาพบว่าเป็นเพราะเขาไม่ได้ทำงาน “ The Machine Fired Me” เป็นชื่อที่เขามอบให้กับโพสต์บล็อกเพิ่มเติมของเขาในเหตุการณ์
ท้ายที่สุดสาเหตุของการยกเลิกของ Diallo ไม่ใช่การประเมินอัลกอริทึมบางชนิดที่ตัดสินว่าใครควรถูกกำจัด ปัญหาไม่ได้อยู่ในระบบ แต่เป็นหนึ่งในข้อผิดพลาดของมนุษย์ ในกรณีนี้เป็นการตอบสนองอัตโนมัติทั้งหมดต่อความล้มเหลวของมนุษย์ที่จะใส่ข้อมูลการต่ออายุสัญญาของ Diallo
ไม่ใช่ว่าเครื่องตัดสินใจว่าเขาควรถูกไล่ออกเพื่ออะไรเป็นพิเศษ เพียงดำเนินการตามขั้นตอนที่ตั้งโปรแกรมไว้สำหรับผู้ที่มีสถานะเป็นพนักงานไม่ได้ทำงานอีกต่อไป ตามที่เขาชี้แจงในความคิดเห็นนี่ไม่ใช่ AI จริงๆ แต่เป็น "สคริปต์อัตโนมัติ" (หากต้องการเรียนรู้เกี่ยวกับวิธีที่ AI สามารถช่วย (แทนการบาดเจ็บ) ในธุรกิจให้ตรวจสอบสิ่งที่ AI สามารถทำเพื่อองค์กรได้)
ระบบอัตโนมัติและการหยุดงาน
ลักษณะเช่นนี้ไม่ได้เป็นสิ่งที่ผู้คนคาดหวังเมื่ออธิบายถึงผลประโยชน์ที่ยอดเยี่ยมที่เราสามารถคาดหวังได้ในอนาคตอัตโนมัติ มุมมองในแง่ดีตามปกติสำหรับการเปลี่ยนงานเนื่องจากงานจะดำเนินการโดยอัตโนมัติงานจะถูกกำหนดใหม่ - ไม่ถูกยกเลิกโดยระบบอัตโนมัติ แต่ความจริงก็คือว่างานบางงานจะถูกกำจัดออกไปและผู้คนที่ยึดครองพวกเขาจะไม่สามารถเปลี่ยนอาชีพที่ไร้รอยต่อไปสู่อาชีพใหม่ในอุตสาหกรรมอัตโนมัติส่วนใหญ่ได้
การหยุดงานเป็นหนึ่งในความเสี่ยงเล็กน้อยที่ Elon Musk คาดการณ์ไว้สำหรับการเพิ่มขึ้นของ AI แม้ว่าวิสัยทัศน์ของเขาเองที่มีผลกระทบต่องานนั้นจะมองในแง่ร้ายมากกว่า Fitzgerald ในมุมมองของ Musk นั้น AI ต้องการกฎระเบียบที่เข้มงวดเนื่องจากเป็น“ ความเสี่ยงขั้นพื้นฐานและมีอยู่สำหรับอารยธรรมมนุษย์”
ไม่มีข้อบกพร่องไม่มีความเครียด - คู่มือแบบเป็นขั้นตอนเพื่อสร้างซอฟต์แวร์ที่เปลี่ยนแปลงชีวิตโดยไม่ทำลายชีวิตของคุณ
คุณไม่สามารถพัฒนาทักษะการเขียนโปรแกรมของคุณเมื่อไม่มีใครใส่ใจคุณภาพของซอฟต์แวร์
แอพพลิเคชั่นจาก Consumer Electronics
แม้ผู้เชี่ยวชาญด้านเทคโนโลยีของ Musk จะมีผู้เชี่ยวชาญในสาขาเช่น Rodney Brooks ซึ่งทำหน้าที่เป็นผู้ก่อตั้งผู้อำนวยการด้านวิทยาศาสตร์คอมพิวเตอร์และห้องปฏิบัติการปัญญาประดิษฐ์ของ MIT และได้คิดค้นทั้ง iRobot และ Rethink Robotics กล่าวว่า Musk นั้นผิดเกี่ยวกับ AI ทำงานจริง
ในการให้สัมภาษณ์กับ TechCrunch บรูกส์ระบุว่าเป็นเรื่องโง่เขลาที่จะเรียกร้องให้มีกฎระเบียบโดยไม่ต้องมีเทคโนโลยีที่ครบกำหนดจนถึงจุดที่เราสามารถระบุได้อย่างแม่นยำว่าต้องมีการควบคุมอะไร เขาท้าทายมัสค์:“ บอกฉันคุณต้องการเปลี่ยนพฤติกรรมอะไร Elon?”
บรูคส์ยอมรับว่าหุ่นยนต์จะนำมาซึ่งการปลดออกจากงาน แต่เขาก็คิดว่าเป็นไปได้ที่จะเปลี่ยนกระบวนทัศน์ในอุตสาหกรรมให้เป็นไปตามอุปกรณ์อิเล็กทรอนิกส์
วิธีที่เขากล่าวไว้ในการสัมภาษณ์ TechCrunch คือ:“ เรามีประเพณีในการผลิตอุปกรณ์ที่มีส่วนต่อประสานกับผู้ใช้ที่น่ากลัวและมันยากและคุณต้องลงเรียนหลักสูตรในขณะที่ในอุปกรณ์อิเล็กทรอนิกส์สำหรับผู้บริโภค วิธีใช้งาน“
นั่นคือสิ่งที่เขาพูดว่าควรเป็นเป้าหมายในการเปลี่ยนวิธีการที่เราเกี่ยวข้องกับ“ เครื่องมืออุตสาหกรรมและอุปกรณ์ประเภทอื่น ๆ เพื่อให้เครื่องจักรสอนคนถึงวิธีใช้งาน”
คืนการควบคุม
สิ่งที่บรูคส์แนะนำอาจชี้ให้เราเห็นทิศทางของการแก้ปัญหาข้อผิดพลาดของมนุษย์ที่กำหนดกระบวนการอัตโนมัติที่ดูเหมือนว่าจะควบคุมไม่ได้ หากต้องการอ้างถึงการล่อลวงของมิคกี้ใน“ The Sorcerer’s Apprentice” ปัญหาทั้งหมดเกิดจากบุคคลที่เปิดใช้งานระบบ แต่ไม่มีวิธีการสื่อสารที่แท้จริงเพื่อหยุดหรือเปลี่ยนทิศทาง
แต่ถ้าอินเทอร์เฟซถูกสร้างขึ้นตามแนวของอุปกรณ์อิเล็กทรอนิกส์มากกว่ารุ่นอุตสาหกรรมแบบดั้งเดิมมันสามารถควบคุมกลับเข้าสู่มือมนุษย์ได้ เพื่อให้มีประสิทธิภาพอย่างแท้จริงอินเทอร์เฟซไม่เพียงแค่สามารถเข้าถึงได้ แต่ออกแบบมาเพื่อให้ผู้คนอยู่ในสถานการณ์ที่กำลังเกิดขึ้นโดยให้ข้อมูลเกี่ยวกับการอัพเดตที่ได้รับและการกระทำที่เกิดขึ้น
มันทำงานได้อย่างไร
ในกรณีที่มีการยกเลิกโดยไม่ตั้งใจของ Diallo นั่นหมายความว่าระบบอัตโนมัติจะไม่เพียง แต่ล็อคเขาออกจากระบบจากนั้นให้ผู้จัดหาของเขาทราบว่าเขาถูกยกเลิก ก่อนอื่นจะยอมรับว่าการต่อสัญญาไม่ได้เกิดขึ้นในวันที่คาดการณ์ไว้ ก่อนที่จะเริ่มการดำเนินการยกเลิกมันจะเสนอให้ผู้จัดการและนายหน้ารับข้อมูลเกี่ยวกับการขาดการต่ออายุและผลที่ตามมาที่จะตามมาภายในวันหากไม่มีการดำเนินการใด ๆ
การแจ้งเตือนประเภทนั้นจะช่วยให้ผู้ใช้สามารถตัดสินใจได้อย่างชาญฉลาดว่าจะปล่อยให้ระบบอัตโนมัติทำงานต่อไปหรือแทรกแซงเพื่อแก้ไขข้อผิดพลาดของมนุษย์ที่เป็นต้นเหตุของปัญหา แต่คนก็ต้องทำส่วนของพวกเขาตอบสนองต่อการแจ้งเตือนและดำเนินการที่เหมาะสม ในคำอื่น ๆ คำตอบสำหรับคำถามที่บรูคส์วางเกี่ยวกับพฤติกรรมนำไปใช้กับมนุษย์; พวกเขาจำเป็นต้องอยู่เฉยๆน้อยลงเมื่อเผชิญกับระบบอัตโนมัติ (สำหรับข้อมูลเพิ่มเติมเกี่ยวกับวิธีที่มนุษย์และเครื่องจักรสามารถทำงานร่วมกันได้โปรดดู Channeling องค์ประกอบของมนุษย์: นโยบายขั้นตอนและกระบวนการ)
ดังที่ Diallo เขียนไว้ในส่วนความเห็นในบล็อกของเขาสาเหตุที่ทำให้สิ่งนี้ถึงจุดที่มันทำคือคนไม่ยอมไปกับเครื่อง:
อีกสิ่งหนึ่งที่มองข้ามไปคือแม้ว่าทุกคนรู้ว่ามันเป็นความผิดพลาดของมนุษย์ที่ก่อให้เกิดมันและมันเป็นความผิดพลาดอย่างหมดจดพวกเขาเลือกที่จะติดตาม มันเหมือนกับการใส่เครื่องหมาย "อนุญาตให้สูบบุหรี่" ในโรงพยาบาลและผู้คนเคารพป้ายแทนการใช้สามัญสำนึก
ดังนั้นนโยบายที่เราต้องนำมาใช้เพื่อให้ระบบอัตโนมัติสามารถทำงานร่วมกับและเพื่อมนุษยชาติมากกว่าที่จะเป็นสองเท่า: ด้านเครื่องเราต้องการอินเทอร์เฟซที่สามารถเข้าถึงได้และให้ข้อมูลและด้านมนุษย์เราต้องการคน ให้อำนาจในการระบุว่าบางสิ่งไม่ถูกต้องและเข้ามาแก้ไขได้