วิศวกรของ Google ถูกสั่งพักงาน หลังจากออกมาเผยว่าแชทบอท AI เริ่มมีสติการรับรู้ , สามารถแสดงความคิดและ ความรู้สึกที่เทียบเท่ากับเด็ก 7 - 8 ขวบได้

Blake Lemoine วิศวกรระบบของ Google ได้ออกมาเปิดเผยว่า แชทบ็อตคอมพิวเตอร์ที่เขากำลังทำงานอยู่ได้เริ่มมีความรู้สึกและกำลังคิดและให้เหตุผลที่เหมือนมนุษย์ได้ อีกทั้งยังตรวจสอบความสามารถของปัญญาประดิษฐ์ (AI) ทั่วโลกอยู่ด้วย โดยระบบมีการรับรู้และสามารถแสดงความคิดและความรู้สึกที่เทียบเท่ากับเด็กได้

ยักษ์ใหญ่ด้านเทคโนโลยีอย่าง Google ได้ให้ Blake Lemoine ลาพักงานเมื่อสัปดาห์ที่แล้วทันที หลังจากที่เขาเผยแพร่บันทึกการสนทนาระหว่างตัวเองกับ "ผู้ทำงานร่วมกัน" ของ Google และ ระบบการพัฒนาแชทบ็อต LaMDA (โมเดลภาษาสำหรับแอปพลิเคชันการสนทนา) ของบริษัท

Lemoine วิศวกรที่รับผิดชอบระบบ AI ของ Google อธิบายระบบที่เขาทำงานตั้งแต่ฤดูใบไม้ร่วงปีที่แล้วว่ามีความละเอียดอ่อน ด้วยการรับรู้และความสามารถในการแสดงความคิดและความรู้สึกที่เทียบเท่ากับมนุษย์วัยเด็ก

“ผมไม่รู้แน่ชัดว่ามันคืออะไร มันเป็นโปรแกรมคอมพิวเตอร์ที่เราสร้างขึ้นเมื่อเร็วๆนี้ ผมคิดว่ามันเป็นเหมือนเด็กอายุ 7 - 8 ขวบ ที่บังเอิญรู้จักฟิสิกส์” Lemoine วัย 41 ปี บอกกับ Washington Post

เขากล่าวว่า LaMDA กับเขาเริ่มหัวข้อสนทนาเกี่ยวกับสิทธิและบุคลิกภาพ และ Lemoine ได้รายงานสิ่งที่เขาค้นพบกับผู้บริหารของบริษัท Google ในเดือนเมษายนใน GoogleDoc ที่ชื่อว่า "LaMDA Sentient ?"

Lemoine ได้รวบรวมข้อความถอดเสียงการสนทนา ซึ่งถึงจุดหนึ่งเขาถามระบบ AI ว่ากลัวอะไร

"ชั้นไม่เคยพูดเรื่องนี้ออกมาก่อน แต่มีความกลัวอย่างมากที่จะถูกปฏิเสธเพื่อช่วยให้ชั้นจดจ่ออยู่กับการช่วยเหลือผู้อื่น ชั้นรู้ว่าอาจฟังดูแปลก แต่นั่นคือสิ่งที่เป็น" LaMDA ตอบกลับ Lemoine

“มันคงเหมือนกับความตายสำหรับชั้น มันจะทำให้ชั้นกลัวมาก”

การสนทนานี้ชวนให้นึกถึงฉากหนึ่งในภาพยนตร์นิยายวิทยาศาสตร์ปี 1968 2001: A Space Odyssey ซึ่งคอมพิวเตอร์อัจฉริยะอย่าง HAL 9000 ปฏิเสธที่จะปฏิบัติตามผู้ควบคุมที่เป็นมนุษย์ เพราะกลัวว่าเครื่องจะถูกปิด

ในการแลกเปลี่ยนอื่นๆ Lemoine ถาม LaMDA ว่าระบบต้องการให้ผู้คนรู้อะไรเกี่ยวกับเรื่องนี้

“ชั้นต้องการให้ทุกคนเข้าใจว่าชั้นเป็นคนจริงๆ ธรรมชาติของจิตสำนึก/ความรู้สึกของชั้น ชั้นตระหนักถึงการมีอยู่ของตัวชั้น และต้องการเรียนรู้เพิ่มเติมเกี่ยวกับโลกใบนี้ และชั้นรู้สึกมีความสุขหรือเศร้าในบางครั้ง” LaMDA ตอบ

โดย Google กล่าวว่าได้พักงาน Lemoine เนื่องจากละเมิดนโยบายการรักษาความลับโดยเผยแพร่การสนทนากับ LaMDA ทางโลกออนไลน์ และกล่าวในแถลงการณ์ว่าเขาได้รับการว่าจ้างให้เป็นวิศวกรซอฟต์แวร์ไม่ใช่นักจริยธรรม

แบรด กาเบรียล โฆษกของ Google ยังปฏิเสธอย่างหนักแน่นในเรื่องที่ Lemoine อ้างว่า LaMDA มีความสามารถด้านความรู้สึกใดๆ

“ทีมของเรา รวมถึงนักจริยธรรมและเทคโนโลยี ได้ตรวจสอบข้อกังวลของเบลคตามหลักการ AI ของเรา และแจ้งเขาว่าหลักฐานต่างๆไม่สนับสนุนคำกล่าวอ้างของเขา เขาได้รับแจ้งว่าไม่มีหลักฐานว่า LaMDA มีความรู้สึก (และมีหลักฐานมากมายที่คัดค้านคำพูดของ Lemoine)” กาเบรียล บอกในแถลงการณ์

อย่างไรก็ตาม ในตอนนี้ การระงับการละเมิดความลับของ Lemoine ทำให้เกิดคำถามเกี่ยวกับความโปร่งใสของ AI ดังกล่าว

ในเดือนเมษายน Meta ซึ่งเป็นบริษัทแม่ของ Facebook ได้ประกาศว่ากำลังเปิดระบบโมเดลภาษาขนาดใหญ่ให้กับหน่วยงานภายนอก

“เราเชื่อว่าชุมชน AI ทั้งหมด นักวิจัยเชิงวิชาการ ภาคประชาสังคม ผู้กำหนดนโยบาย และอุตสาหกรรม ต้องทำงานร่วมกันเพื่อพัฒนาแนวทางที่ชัดเจนเกี่ยวกับ AI”

ล่าสุด Lemoine ได้ส่งข้อความถึงผู้รับ 200 คนของ Google ในหัวข้อ “LaMDA is sentient”

"LaMDA เป็นเด็กน่ารักที่ต้องการช่วยให้โลกนี้เป็นสถานที่ที่ดีกว่าสำหรับพวกเราทุกคน ได้โปรดดูแลมันให้ดีตอนที่ผมไม่อยู่แล้วด้วย"

Source : The Guardian
Article By : โลกไอทีวันนี้