เนื้อหา
นำเสนอโดย: AltaML
Q:
เหตุใดบาง บริษัท จึงใคร่ครวญการเพิ่ม "การควบคุมความคิดเห็นของมนุษย์" ในระบบ AI สมัยใหม่?
A:
บริษัท บางแห่งที่ทำงานกับเทคโนโลยี AI ที่ทันสมัยกำลังทำงานเพื่อควบคุมการทำงานของมนุษย์สำหรับระบบเหล่านี้โดยให้การเรียนรู้ด้วยเครื่องและเครื่องมือการเรียนรู้เชิงลึกสำหรับการกำกับดูแลของมนุษย์โดยตรง บริษัท เหล่านี้ไม่ใช่ผู้เล่นรายเล็กเช่น DeepMind ของ Google และ OpenAI ของ Elon Musk เป็นสองตัวอย่างของ บริษัท ยักษ์ใหญ่ที่ได้รับการฝึกฝนเกี่ยวกับความก้าวหน้าของปัญญาประดิษฐ์ เมื่อพิจารณาแล้วผลลัพธ์ที่แตกต่าง - เช่น DeepMind เป็นประเด็นถกเถียงสำหรับการรับรู้ที่ไม่เต็มใจที่จะให้ข้อมูลสำคัญแก่สาธารณชนในขณะที่ OpenAI นั้นดีกว่ามาก เปิด เกี่ยวกับงานควบคุมปัญญาประดิษฐ์
แม้สิ่งที่โดดเด่นอย่างบิลเกตส์ก็ยังมีน้ำหนักอยู่ในเรื่องนี้เกทส์บอกว่าเขาเป็นหนึ่งในหลาย ๆ คนที่มีความกังวลเกี่ยวกับการเกิดขึ้นของสติปัญญาประดิษฐ์ที่อาจเคลื่อนไหวเกินกว่าการควบคุมของมนุษย์ ในส่วนของเขานั้น Musk ได้ใช้ภาษาที่น่าตกใจเกี่ยวกับความเป็นไปได้ของ“ หัวไม้ AI”
นั่นอาจเป็นเหตุผลที่เร่งด่วนที่สุดที่ บริษัท ต่างๆใช้การควบคุมของมนุษย์กับ AI - ความคิดที่ว่าภาวะเอกฐานทางเทคโนโลยีบางอย่างจะส่งผลให้เกิดความรู้สึกที่มีพลังอำนาจสูงซึ่งมนุษย์ไม่สามารถควบคุมได้อีกต่อไป นับตั้งแต่รุ่งอรุณแห่งความทะเยอทะยานของมนุษย์เราได้วางเครื่องมือเพื่อให้แน่ใจว่าเราสามารถควบคุมพลังที่เราใช้ - ไม่ว่าจะเป็นม้าที่มีบังเหียนและบังเหียนไฟฟ้าในสายฉนวนหรือกลไกการควบคุมชนิดอื่นที่มี การควบคุมเป็นฟังก์ชั่นของมนุษย์โดยกำเนิดดังนั้นจึงทำให้รู้สึกว่าในโลกที่ปัญญาประดิษฐ์เข้ามาใกล้กับการใช้งานจริงมนุษย์ใช้การควบคุมโดยตรงของตัวเองเพื่อรักษาอำนาจนั้นไว้ในการตรวจสอบ
อย่างไรก็ตามความกลัวของหุ่นยนต์อัจฉริยะไม่ได้เป็นเพียงเหตุผลเดียวที่ บริษัท ใช้การควบคุมของมนุษย์ในการเรียนรู้เครื่องจักรและโครงการ AI อีกเหตุผลที่สำคัญคือความลำเอียงของเครื่องจักร - นี่คือความคิดที่ว่าระบบปัญญาประดิษฐ์มักถูก จำกัด ในการประเมินข้อมูลที่เป็นปัญหา - เพื่อที่จะขยายอคติใด ๆ ที่มีอยู่ในระบบ ผู้เชี่ยวชาญส่วนใหญ่ที่เกี่ยวข้องกับการเรียนรู้ด้วยเครื่องสามารถบอกเล่าเรื่องราวสยองขวัญเกี่ยวกับระบบไอทีที่ไม่สามารถปฏิบัติต่อกลุ่มผู้ใช้ที่เป็นมนุษย์ไม่ว่าจะเป็นเพศหรือความไม่เท่าเทียมทางชาติพันธุ์หรือความล้มเหลวอื่น ๆ ของระบบเพื่อทำความเข้าใจความแตกต่างของสังคมมนุษย์ของเรา เรามีปฏิสัมพันธ์กับผู้คนอย่างไร
ในแง่หนึ่งเราอาจควบคุมมนุษย์บนระบบเพราะเรากลัวว่าพวกเขาอาจมีพลังมากเกินไป - หรือสลับกันเพราะเรากลัวว่าพวกเขาอาจมีพลังไม่พอ การควบคุมของมนุษย์ช่วยในการกำหนดเป้าหมายชุดข้อมูลการเรียนรู้ของเครื่องเพื่อให้แม่นยำยิ่งขึ้น พวกเขาช่วยเสริมความคิดที่ว่าคอมพิวเตอร์เพียงแค่ไม่สามารถเรียนรู้ด้วยตนเองไม่ว่าจะเป็นเพราะแบบจำลองนั้นไม่ซับซ้อนพอเพราะ AI ยังไม่ก้าวไปไกลพอหรือเพราะบางสิ่งอยู่ในจังหวัดแห่งการรับรู้ของมนุษย์ ปัญญาประดิษฐ์นั้นยอดเยี่ยมสำหรับบางสิ่ง - ตัวอย่างเช่นระบบที่ให้รางวัลและให้คะแนนอนุญาตให้ปัญญาประดิษฐ์สามารถเอาชนะผู้เล่นมนุษย์ในเกมกระดานที่มีความซับซ้อนอย่าง“ Go” - แต่สำหรับสิ่งอื่น ๆ ระบบที่ใช้สิ่งจูงใจนี้คือ ไม่เพียงพอทั้งหมด
โดยสรุปมีเหตุผลที่น่าสนใจมากมายที่จะทำให้ผู้ใช้มนุษย์มีส่วนร่วมโดยตรงในการทำงานของโครงการปัญญาประดิษฐ์ แม้แต่เทคโนโลยีปัญญาประดิษฐ์ที่ดีที่สุดก็ยังสามารถคิดได้เอง - แต่หากไม่มีสมองมนุษย์ชีวภาพที่สามารถประมวลผลสิ่งต่าง ๆ เช่นอารมณ์และสังคมได้พวกเขาก็ไม่สามารถมองเห็นภาพรวมของมนุษย์ได้
บริษัท เรียนรู้เครื่องจักรที่มีทักษะ สามารถช่วยให้เกิดความสมดุลด้วยการผสมผสานของธุรกิจและผู้เชี่ยวชาญเฉพาะด้านและผู้พัฒนาเครื่องจักรเรียนรู้ที่มีทักษะในการแก้ปัญหาทางธุรกิจขนาดใหญ่
