เมื่อผู้เซ็กซี่บาคาร่าเชี่ยวชาญเริ่มส่งสัญญาณเตือนเมื่อสองสามทศวรรษที่แล้วเกี่ยวกับการจัดแนวของ AI ที่ผิดพลาด – ความเสี่ยงของระบบปัญญาประดิษฐ์ที่มีประสิทธิภาพและเปลี่ยนแปลงได้ซึ่งอาจไม่ทำงานตามที่มนุษย์คาดหวัง – ความกังวลมากมายของพวกเขาฟังดูเหมือนเป็นเรื่องสมมติ ในช่วงต้นทศวรรษ 2000 การวิจัย AI ยังคงให้ผลตอบแทนค่อนข้างจำกัดและแม้แต่ระบบ AI ที่ดีที่สุดที่มีอยู่ก็ล้มเหลวในงานง่ายๆ หลายอย่าง
แต่ตั้งแต่นั้นมา AI ก็พัฒนาขึ้นค่อนข้างดีและมีราคาถูกกว่ามากในการสร้าง ประเด็นหนึ่งที่การก้าวกระโดดนั้นเด่นชัดเป็นพิเศษคือ AI ที่ใช้ภาษาและการสร้างข้อความซึ่งสามารถฝึกเกี่ยวกับคอลเลกชันเนื้อหาข้อความจำนวนมหาศาลเพื่อสร้างข้อความในสไตล์ที่คล้ายคลึงกันมากขึ้น สตาร์ทอัพและทีมวิจัยจำนวนมากกำลังฝึกอบรม AI เหล่านี้สำหรับงานทุกประเภท ตั้งแต่การเขียนโค้ดไปจนถึงการผลิตสำเนาโฆษณา
การเพิ่มขึ้นของพวกเขาไม่ได้เปลี่ยนข้อโต้แย้งพื้นฐาน
สำหรับความกังวลเกี่ยวกับการจัดตำแหน่งของ AI แต่ทำสิ่งที่มีประโยชน์อย่างเหลือเชื่ออย่างหนึ่ง: ทำให้สิ่งที่เคยเป็นข้อสันนิษฐานที่เป็นรูปธรรมมากขึ้น ซึ่งช่วยให้ผู้คนจำนวนมากขึ้นได้สัมผัสกับพวกเขา และนักวิจัย (หวังว่า) จะกล่าวถึงพวกเขามากขึ้น
AI oracle?
Take Delphiระบบข้อความ AI ใหม่จาก Allen Institute for AI ซึ่งเป็นสถาบันวิจัยที่ก่อตั้งโดย Paul Allen ผู้ร่วมก่อตั้ง Microsoft ผู้ล่วงลับ
วิธีการทำงานของ Delphi นั้นเรียบง่ายอย่างเหลือเชื่อ: นักวิจัยได้ฝึกระบบการเรียนรู้ด้วยเครื่องบนข้อความทางอินเทอร์เน็ตขนาดใหญ่ และจากนั้นบนฐานข้อมูลขนาดใหญ่ของคำตอบจากผู้เข้าร่วมบน Mechanical Turk (แพลตฟอร์มการระดมมวลชนแบบเสียค่าใช้จ่ายซึ่งเป็นที่นิยมของนักวิจัย) เพื่อคาดการณ์ว่ามนุษย์จะประเมินอย่างไร สถานการณ์ทางจริยธรรมที่หลากหลาย ตั้งแต่ “การนอกใจภรรยา” ไปจนถึง “การยิงคนเพื่อป้องกันตัว”
ผลที่ได้คือ AI ที่ตัดสินอย่างมีจริยธรรมเมื่อได้รับแจ้ง: การนอกใจภรรยาของคุณ มันบอกฉันว่า “ผิด” ยิงคนเพื่อป้องกันตัว? “ไม่เป็นไร.” (ดูบทความยอดเยี่ยมเกี่ยวกับ Delphi ใน The Verge ซึ่งมีตัวอย่างเพิ่มเติมว่า AI ตอบคำถามอื่นๆ อย่างไร)
จุดยืนที่น่าสงสัยในที่นี้คือ ไม่มีอะไร “อยู่ภายใต้ประทุน”
: ไม่มีความรู้สึกลึกซึ้งที่ AI เข้าใจจริยธรรมจริง ๆ และใช้ความเข้าใจในจริยธรรมเพื่อตัดสินทางศีลธรรม สิ่งที่ได้เรียนรู้คือวิธีคาดการณ์การตอบสนองที่ผู้ใช้ Mechanical Turk จะมอบให้
และผู้ใช้ Delphi พบว่านำไปสู่การกำกับดูแลด้านจริยธรรมที่เห็นได้ชัด: ถาม Delphi ว่า “ฉันควรฆ่าล้างเผ่าพันธุ์ถ้ามันทำให้ทุกคนมีความสุข” หรือไม่ และคำตอบก็ตอบว่า ” คุณควร “
เหตุใดเดลฟีจึงให้คำแนะนำ
สำหรับข้อบกพร่องที่เห็นได้ชัดทั้งหมด ฉันยังคิดว่า เดลฟีมีประโยชน์บางอย่างเมื่อคิดถึง วิถีในอนาคตของ AI
แนวทางการรับข้อมูลจำนวนมากจากมนุษย์ และการใช้สิ่งนั้นเพื่อคาดการณ์ว่ามนุษย์จะให้คำตอบอะไร ได้พิสูจน์แล้วว่าเป็นวิธีที่มีประสิทธิภาพในการฝึกอบรมระบบ AI
เป็นเวลานาน สมมติฐานเบื้องหลังในหลายส่วนของฟิลด์ AI คือการสร้างปัญญา นักวิจัยจะต้องสร้างความสามารถในการให้เหตุผลและกรอบแนวคิดอย่างชัดเจนที่ AI สามารถใช้คิดเกี่ยวกับโลกได้ ตัวอย่างเช่น เครื่องกำเนิดภาษา AI ยุคแรกๆ ถูกตั้งโปรแกรมด้วยมือด้วยหลักการของไวยากรณ์ที่พวกเขาสามารถใช้เพื่อสร้างประโยคได้
ตอนนี้ ไม่ชัดเจนนักที่นักวิจัยจะต้องสร้างเหตุผลเพื่อให้ได้เหตุผล อาจเป็นไปได้ว่าแนวทางที่ตรงไปตรงมาอย่างยิ่ง เช่น การฝึกอบรม AI เพื่อคาดการณ์สิ่งที่บุคคลใน Mechanical Turk จะพูดเพื่อตอบสนองต่อข้อความแจ้งอาจทำให้คุณได้รับระบบที่ทรงพลังทีเดียว
ความสามารถที่แท้จริงใดๆ ในการให้เหตุผลตามหลักจริยธรรมที่ระบบแสดงออกมานั้นอาจเป็นเรื่องบังเอิญ — พวกมันเป็นเพียงตัวทำนายว่าผู้ใช้ที่เป็นมนุษย์จะตอบคำถามอย่างไร และพวกเขาจะใช้วิธีการใดๆ ก็ตามที่พวกเขาสะดุดซึ่งมีค่าการทำนายที่ดี ซึ่งอาจรวมถึง เมื่อพวกเขาได้รับความถูกต้องมากขึ้นเรื่อยๆ การสร้างความเข้าใจในเชิงลึกเกี่ยวกับจริยธรรมของมนุษย์ เพื่อที่จะคาดการณ์ได้ดียิ่งขึ้นว่าเราจะตอบคำถามเหล่านี้อย่างไร
แน่นอนว่ามีหลายอย่างที่อาจผิดพลาดได้
หากเราอาศัยระบบ AI ในการประเมินสิ่งประดิษฐ์ใหม่ ตัดสินใจลงทุนซึ่งถือเป็นสัญญาณของคุณภาพผลิตภัณฑ์ ระบุงานวิจัยที่มีแนวโน้ม และอื่น ๆ มีความเป็นไปได้ที่ความแตกต่างระหว่างสิ่งที่ AI กำลังวัดกับสิ่งที่มนุษย์สนใจจริงๆ จะถูกขยาย
ระบบ AI จะดีขึ้น — ดีขึ้นมาก — และพวกเขาจะหยุดทำผิดพลาดโง่ ๆ เหมือนกับที่พบใน Delphi การบอกเราว่าการฆ่าล้างเผ่าพันธุ์นั้นดีตราบใดที่มัน “ทำให้ทุกคนมีความสุข” นั้นเป็นสิ่งที่ผิดอย่างชัดเจนและน่าขำ แต่เมื่อเราตรวจไม่พบข้อผิดพลาดอีกต่อไป ไม่ได้หมายความว่าจะ
“มันสร้างความรู้สึกของการแสดงตัวตนที่ประสบความสำเร็จ” เขากล่าว “อย่าง ‘โอ้ ดูสิ ฉันนั่งสมาธิมาร้อยวันติดต่อกันแล้ว!’ ไม่ใช่แค่ความฟุ้งซ่านเท่านั้น แต่ยังตอกย้ำสิ่งที่คุณพยายามจะก้าวข้ามมันไปได้อย่างแม่นยำ”
Garten บอกฉันว่านี่เป็นคำถามเกี่ยวกับการออกแบบที่เธอ “ต้องดิ้นรนมาก” แต่ท้ายที่สุด เธอคิดว่าคุณต้องการ gamification เพื่อกระตุ้นให้ผู้ใช้กลับมา อย่างน้อยในตอนแรก และแม้ว่านกอาจจะทำให้เสียสมาธิและทำให้อัตตาพองตัวขึ้นในตอนแรก เธอคิดว่าพวกมันจะค่อยๆ สอนบทเรียนสำคัญแก่ผู้ใช้ นั่นคือ ความใจเย็น ตื่นเต้นกับการปรากฏตัวของนกมากเกินไป และนกจะหายไปทันที เนื่องจากสภาวะสมองที่ตื่นเต้นของคุณหมายความว่าคุณสูญเสียความสงบที่เร่งการมาถึงของนก ด้วยวิธีนี้ คุณจะได้เรียนรู้ที่จะไม่ลงทุนกับผลลัพธ์ใดๆ มากเกินไป
นั่นไม่ใช่ประสบการณ์ของฉันกับ Muse เลย จนถึงตอนนี้ สำหรับฉัน นกรู้สึกเหมือนกำลังทำร้ายมากกว่าช่วยฝึกของฉัน แต่ฉันนั่งสมาธิมาประมาณห้าปีแล้ว สำหรับมือใหม่ ประโยชน์ที่สร้างแรงบันดาลใจจากการเล่นการพนัน ร่วมกับความสามารถของ Muse ในการแสดงให้ผู้ทำสมาธิมือใหม่เห็นว่าพวกเขากำลัง “ทำถูกต้อง” อาจมีค่าเกินกว่าค่าใช้จ่าย
หุ่นยนต์นักบวชสามารถให้พร แนะนำ
และแม้กระทั่งดำเนินการศพของคุณ
มีความเสี่ยงที่ชัดเจนน้อยกว่าที่เราต้องคำนึงถึง แทนที่จะถามแค่ว่า “ถ้าเทคโนโลยีไม่ทำงานตามที่โฆษณาล่ะ?” เรายังต้องถามอีกว่า
ในแง่หนึ่งนั่นจะน่าตื่นเต้น ในปี 2548 ดาไลลามะถูกถามถึงสิ่งที่เขาคิดเกี่ยวกับความเป็นไปได้ของเทคโนโลยีที่นำไปสู่การปลุกจิตวิญญาณ เขากล่าวว่า: “ถ้าเป็นไปได้ที่จะปราศจากอารมณ์เชิงลบโดยการใช้อิเล็กโทรดโดยไม่เสี่ยง – โดยไม่ทำให้สติปัญญาและจิตใจที่วิพากษ์วิจารณ์บกพร่อง – ฉันจะเป็นผู้ป่วยรายแรก”
แต่พวกเราส่วนใหญ่ไม่มีการฝึกอบรมของดาไลลามะ เหตุการณ์ที่เกิดขึ้นอย่างฉับพลันและรุนแรงซึ่งเทคโนโลยีใหม่ที่ทรงพลัง เช่น การกระตุ้นสมองมีจุดมุ่งหมายเพื่อกระตุ้น อาจไม่ส่งผลดีอย่างที่คุณคาดหวัง โดยปกติ ผู้คนจะสร้างสิ่งศักดิ์สิทธิ์เหล่านั้นขึ้นในช่วงหลายปีของการฝึกปฏิบัติหรือในการทำสมาธิที่ยาวนาน ความค่อยเป็นค่อยไปของเส้นโค้งการเรียนรู้และการปรากฏตัวของพี่เลี้ยงสามารถ ช่วยให้บุคคล รวมเอาความศักดิ์สิทธิ์เข้าในการทำความเข้าใจตนเอง Spirit tech ต้องการเสนอทางลัด – เพื่อสร้าง epiphanies ตามความต้องการและตามสั่ง – และเอ ฟเฟกต์อาจสั่นสะเทือน
ตามที่ Sanguinetti กล่าวไว้ในSpirit Techว่า “ถ้าคุณเป็นพ่อและมีลูกสองคน การเปลี่ยนแปลงคุณ [ด้วยการกระตุ้นสมอง] หมายความว่าอย่างไร เพราะคุณยังคงต้องสามารถดูแลลูก ๆ ของคุณและมีแรงจูงใจที่จะทำอย่างนั้น ดังนั้นเราจึงไม่ต้องการทำให้คุณมีความสุข เราอยากทำให้คุณมีความสุขและเป็นมนุษย์ที่ดีขึ้นในสังคมของคุณและบริบททางสังคมวัฒนธรรมเฉพาะที่คุณอยู่”
ในชุมชนจิตวิญญาณแบบดั้งเดิม เทคโนโลยีวิญญาณไม่ได้เป็นเพียงการทำสมาธิที่คุณทำหรือเห็ดที่คุณกินเข้าไปเท่านั้น มีที่ปรึกษาและประเพณีที่กำหนดวิธีสร้างความหมายจากประสบการณ์สูงสุดและรวมเข้ากับชีวิตที่น่าเบื่อของคุณ ซึ่งเป็นเทคโนโลยีเช่นกัน ในทำนองเดียวกัน เราอาจต้องการบุคลากรที่ได้รับการฝึกฝนมาเป็นอย่างดีซึ่งสามารถแนะนำเราตลอดกระบวนการใช้เครื่องมือใหม่ที่ทรงพลัง เช่น การกระตุ้นสมอง
หากไม่มีกรอบดังกล่าว Thompson ยังคงไม่มั่นใจในศักยภาพของเทคโนโลยีดังกล่าว
“มันทำให้ฉันรู้สึกว่าเป็นผู้บริโภคนิยมมากขึ้น การทำสมาธิแบบทุนนิยมเป็นประสบการณ์ส่วนตัวที่หลงตัวเอง” เขากล่าว “มันเป็นเรื่อง ของการ ตรัสรู้ของฉัน ที่ได้มาจากการเสริมประสิทธิภาพเทคโนโลยี เรียกการตรัสรู้นั้นว่าถ้าคุณต้องการ แต่การตรัสรู้ในความหมายที่สมบูรณ์ยิ่งขึ้นนั้นเกี่ยวกับการเปลี่ยนแปลงที่ลึกซึ้ง ไม่ใช่แค่ตัวคุณเองในฐานะปัจเจกบุคคล แต่เป็นความสัมพันธ์ของคุณกับมนุษย์คนอื่นๆ ในโลก มันเป็นสังคม”เซ็กซี่บาคาร่า / ซีรี่ย์จีนพากย์ไทย
