"ละอายใจที่จะทำงานให้บริษัท" เหตุใดกูเกิลเผชิญกระแสต้าน-พนักงานแห่ลาออก หลังไปเซ็นสัญญา AI กับกองทัพ

กูเกิล (Google) กำลังเผชิญกระแสต่อต้านจากพนักงานบางส่วน จากกรณีที่บริษัทนำเทคโนโลยีปัญญาประดิษฐ์ หรือเอไอ (AI) ไปใช้ในงานด้านการทหาร

บีบีซีได้พูดคุยกับพนักงานสายเทคโนโลยีหลายคนที่เพิ่งลาออกหรือกำลังอยู่ระหว่างกระบวนการลาออกจากกูเกิลดีปมายด์ (Google DeepMind) ซึ่งเป็นหน่วยงานพัฒนาเอไอของกูเกิล เนื่องจากพวกเขากังวลเกี่ยวกับสัญญาที่บริษัททำกับกองทัพ

หนึ่งในคนที่เราคุยด้วยคือ โซเฟีย ลิกัวรี วิศวกรวิจัยที่ประจำอยู่ในกรุงลอนดอน สหราชอาณาจักร เธอลาออกจาก Google DeepMind ในสัปดาห์นี้ และให้สัมภาษณ์พิเศษกับบีบีซีถึงความกังวลของตัวเธอ แม้ว่าสัญญาจ้างงานของเธอจะมีข้อจำกัดไม่ให้ทำเช่นนั้นก็ตาม

ลิกัวรีกล่าวความเห็นส่วนตัวของเธอว่า "การตระหนักว่าบริษัทของฉันกำลังผลักดันการนำระบบเอไอไปใช้ในปฏิบัติการทางทหารมากขึ้นเรื่อย ๆ ทำให้ฉันรู้สึกละอายใจที่จะทำงานให้กับกูเกิล"

ด้านโฆษกของกูเกิลตอบกลับบีบีซีว่า "เราทำงานร่วมกับองค์กรภาครัฐทั่วโลก และปฏิบัติตามกระบวนการที่สอดคล้องกันในการพิจารณาและทำสัญญาเหล่านี้ ซึ่งรวมถึงการปฏิบัติตามนโยบายการใช้งานที่ยอมรับได้ (Acceptable Use Policies) และหลักการด้านเอไอของบริษัท"

"นอกจากนี้เรายังมีช่องทางเฉพาะสำหรับพนักงานในการแจ้งข้อกังวลต่าง ๆ ได้อย่างปลอดภัย ไม่ว่าจะเป็นประเด็นจริยธรรมทางธุรกิจหรือการประพฤติมิชอบ และเรามีนโยบายในสถานที่ทำงานที่เข้มงวดเพื่อป้องกันการตอบโต้หรือกลั่นแกล้งผู้ร้องเรียนในทุกรูปแบบ"

กูเกิลเป็นหนึ่งในบริษัทเทคโนโลยีหลายบริษัทที่ลงนามสัญญากับกองทัพสหรัฐฯ เมื่อช่วงต้นปีที่ผ่านมา เพื่อสนับสนุนการนำระบบปัญญาประดิษฐ์ไปใช้ในสภาพแวดล้อมทางทหารที่เป็นความลับ

พีท เฮกเซธ รัฐมนตรีว่าการกระทรวงกลาโหมสหรัฐฯ กำหนดให้การผสานเทคโนโลยีเอไอเข้ากับกองทัพเป็นหนึ่งในนโยบายสำคัญ โดยระบุว่ารัฐบาลของโดนัลด์ ทรัมป์จะผลักดันให้สหรัฐฯ กลายเป็น "กองกำลังรบที่ขับเคลื่อนด้วยเอไอเป็นหลัก"

แต่เทคโนโลยีเอไอกำลังพัฒนาไปอย่างรวดเร็ว และนักวิจารณ์จำนวนหนึ่งตั้งคำถามว่าเอไอมีความน่าเชื่อถือมากพอสำหรับการนำไปใช้ในปฏิบัติการทางทหารหรือไม่ หากพวกมันยังไม่ได้ผ่านการทดสอบเพิ่มเติมอย่างเพียงพอ รวมถึงยังต้องมีมาตรการควบคุมที่เข้มงวดและการกำกับดูแลโดยมนุษย์

หลังจากทำงานกับบริษัทเป็นเวลา 3 ปี ลิกัวรีกล่าวว่าเธอตัดสินใจลาออกเนื่องจากกังวลต่อการที่ กูเกิลมีส่วนร่วมกับกองทัพของสหรัฐฯ และอิสราเอลมากขึ้น

เธอกล่าวว่า "ฉันไม่เห็นด้วยกับทิศทางนี้ และเรื่องดังกล่าวทำให้ฉันสูญเสียความเชื่อมั่นว่าบริษัทของฉันยังคงยึดมั่นต่อหลักจริยธรรมที่ประกาศไว้จริง"

หลักการดังกล่าวซึ่งระบุอยู่ใน หลักการด้านเอไอของกูเกิล ได้แก่ การพัฒนาและใช้งานเอไอโดยมี "การกำกับดูแลจากมนุษย์" การทำให้เทคโนโลยีเอไอสอดคล้องกับ "กฎหมายระหว่างประเทศและหลักสิทธิมนุษยชน"

อย่างไรก็ตาม พนักงานทั้งอดีตและปัจจุบันของกูเกิลรวมถึงผู้เชี่ยวชาญที่บีบีซีสัมภาษณ์ ต่างแสดงความกังวลเกี่ยวกับระดับของการกำกับดูแลโดยมนุษย์ในช่วงเวลาสำคัญ

พนักงานในแวดวงเทคโนโลยีบอกว่าพวกเขากังวลอย่างยิ่งเกี่ยวกับข้อตกลงด้านเอไอทางการทหารที่ลงนามกันไปแล้วในปีนี้ เพราะข้อตกลงเหล่านี้ทำให้ขอบเขตการใช้งานเทคโนโลยีดังกล่าวของกระทรวงกลาโหมสหรัฐฯ ขยายกว้างขึ้นอย่างมาก

แอนเดรียส เคิร์ช นักวิจัยด้านเอไอก็ได้ลาออกจาก Google DeepMind เมื่อต้นเดือนนี้เช่นกัน เนื่องจากความกังวลของเขาเกี่ยวกับเรื่องดังกล่าว

เคิร์ชให้สัมภาษณ์กับบีบีซีว่า เขาเชื่อว่า "ระบบธรรมาภิบาลและการกำกับดูแลของกูเกิลยังไม่เพียงพอหรือมีประสิทธิภาพมากพอที่จะทำให้การนำเอไอไปใช้ในบริบททางทหารและกิจการลับ เป็นไปอย่างปลอดภัยและมีความรับผิดชอบ" รวมถึง "ยังไม่เพียงพอสำหรับการพัฒนาปัญญาประดิษฐ์ในขั้นสูง (artificial superintelligence) ได้อย่างปลอดภัยในอนาคต"

เขายังเสริมอีกว่า "ดูเหมือนว่ากูเกิลจะไม่มีสิทธิ์ควบคุมหรือยับยั้งวิธีที่กระทรวงกลาโหมสหรัฐฯ นำ เอไอไปใช้งานและยังดูเหมือนว่าจะรับรู้ได้อย่างจำกัดด้วยว่าเอไอเหล่านี้ถูกนำไปใช้ในลักษณะใดบ้าง"

ในช่วงไม่กี่ปีที่ผ่านมา กองทัพสหรัฐฯ ได้นำเทคโนโลยีที่ขับเคลื่อนด้วยปัญญาประดิษฐ์หลายรูปแบบมาใช้งานเพื่อเพิ่มขีดความสามารถในการทำสงครามและปฏิบัติการทางทหาร

ตัวอย่างที่โดดเด่นที่สุดคือ ระบบมาเวน สมาร์ท (Maven Smart Systems) ซึ่งเป็นแพลตฟอร์มซอฟต์แวร์หลักของกระทรวงกลาโหมสหรัฐฯ สำหรับการจัดการและวิเคราะห์ข่าวกรอง รวมถึงข้อมูลทางทหารจำนวนมหาศาล

ระบบดังกล่าวได้รับการพัฒนาโดยบริษัทด้านกลาโหมของสหรัฐฯ ที่ชื่อว่า พาแลนเทียร์ (Palantir) และใช้เอไอเพื่อช่วยเจ้าหน้าที่ในการคัดเลือก วิเคราะห์ และระบุเป้าหมายสำหรับการโจมตี

Palantir ได้นำเทคโนโลยีจากบริษัทเอไอชั้นนำหลายแห่งมาผสานเข้ากับระบบ Maven ส่งผลให้กระบวนการต่าง ๆ ที่เดิมต้องใช้เวลานาน สามารถดำเนินการได้รวดเร็วขึ้นอย่างมาก

พลโท แจ็ก ชานาฮาน ซึ่งเกษียณอายุราชการแล้ว และเคยดำรงตำแหน่งผู้อำนวยการโครงการ โปรเจกต์มาเวน (Project Maven) กล่าวว่า "ปรัชญา" ที่ดูเหมือนกำลังถูกยึดถืออยู่ในขณะนี้คือ "เดินหน้าให้เร็วที่สุดเท่าที่จะเป็นไปได้เพื่อนำเทคโนโลยีเอไอไปใช้งานอย่างแพร่หลายที่สุดเท่าที่จะทำได้ แม้อาจต้องแลกกับความเข้มงวดและวินัยในการทดสอบและประเมินผลก็ตาม"

อย่างไรก็ตาม กระทรวงกลาโหมสหรัฐฯ ยืนยันมาโดยตลอดว่าการนำเทคโนโลยีเอไอมาใช้เป็นสิ่งจำเป็นสำหรับการทำสงครามในอนาคต

เอมิล ไมเคิล รัฐมนตรีช่วยว่าการกระทรวงกลาโหมสหรัฐฯ กล่าวในแถลงการณ์เมื่อต้นปีนี้ว่า "ความเร็วคือปัจจัยกำหนดชัยชนะในยุคเอไอ"

ขณะที่สัญญาระหว่างกูเกิลกับกระทรวงกลาโหมสหรัฐฯ ซึ่งลงนามเมื่อต้นปีนี้ อนุญาตให้นำเทคโนโลยีเอไอของบริษัทไปใช้ในงานทางทหารที่เป็นความลับได้

ข้อตกลงดังกล่าวระบุว่า โมเดลเอไอของกูเกิลสามารถถูกนำไปใช้เพื่อ "วัตถุประสงค์ใด ๆ ของรัฐบาลที่ชอบด้วยกฎหมาย" และ "ไม่ควรถูกนำไปใช้เพื่อการสอดส่องมวลชนภายในประเทศ หรือใช้เป็นอาวุธอัตโนมัติ รวมถึงการเลือกเป้าหมายโจมตี โดยปราศจากการกำกับดูแลและควบคุมจากมนุษย์อย่างเหมาะสม"

บริษัทต่าง ๆ อีกหลายแห่ง ได้แก่ โอเพนเอไอ (OpenAI), แอมะซอน (Amazon), ไมโครซอฟต์ (Microsoft) , สเปซเอ็กซ์ (SpaceX), ออราเคิล (Oracle), เอ็นวิเดีย (Nvidia) และสตาร์ตอัปชื่อ รีเฟลกชัน (Reflection) ได้ลงนามในสัญญาลักษณะเดียวกัน เพื่อเปิดทางให้นำเทคโนโลยีเอไอ ไปใช้งานในภารกิจด้านการทหารหลากหลายด้าน ไม่ว่าจะเป็นการขนส่ง การวางแผน และปฏิบัติการในสนามรบ

ขณะที่เทคโนโลยีเอไอพัฒนาอย่างรวดเร็ว ความกังวลเกี่ยวกับการนำเอไอไปใช้ในพื้นที่ความขัดแย้งและสงครามก็เพิ่มมากขึ้นเช่นกัน

ซาราห์ โชเกอร์ อดีตหัวหน้าทีมภูมิรัฐศาสตร์ของโอเพนเอไอ (OpenAI) กล่าวว่า "เอไอทำให้ระยะเวลาที่ผู้ปฏิบัติการมีในการตัดสินใจสั้นลงเพราะมันประมวลผลและทำงานได้เร็วกว่ามนุษย์มาก ซึ่งเป็นเรื่องที่เสี่ยงอย่างยิ่งในสภาพแวดล้อมที่มีความกดดันสูง"

เธอยังกล่าวอีกว่า "เมื่อมีเป้าหมายหลายร้อยเป้าหมายที่ถูกคัดเลือกโดยเอไอ และมีเวลาให้ตัดสินใจเพียงเล็กน้อย แทบเป็นไปไม่ได้เลยที่ผู้ปฏิบัติการที่เป็นมนุษย์จะสามารถตรวจสอบผลลัพธ์ของเอไออย่างมีประสิทธิภาพเพื่อค้นหาข้อผิดพลาดได้"

พนักงานของกูเกิลบางรายเปิดเผยกับบีบีซีว่า พวกเขารู้สึกหวาดกลัวที่จะออกมาแสดงความคิดเห็นเกี่ยวกับความปลอดภัยของเอไอและการนำเอไอไปใช้ในสงคราม เนื่องจากสัญญาการจ้างงานของบริษัทห้ามไม่ให้พนักงานวิพากษ์วิจารณ์บริษัทต่อสาธารณะ

โซเฟีย ลิกัวรี กล่าวกับบีบีซีว่า "โดยหลักการแล้ว ฉันไม่ได้รับอนุญาตให้วิจารณ์กูเกิลตลอดชีวิต"

อย่างไรก็ตาม เธอตัดสินใจออกมาพูดเพราะ "ฉันเชื่อว่าสิ่งเหล่านี้ควรเป็นที่รับรู้ของสาธารณชน และฉันก็คิดว่าการพูดถึงข้อเท็จจริงไม่ได้เท่ากับการวิจารณ์"

ลิกัวรียังกล่าวเพิ่มเติมว่า ภายในกูเกิล "ผู้คนกลัวการถูกตอบโต้และกลัวว่าเส้นทางอาชีพของตัวเองจะได้รับผลกระทบ คุณจะรู้สึกเหมือนกำลังถูกจับตามองอยู่ตลอด และไม่สามารถพูดอะไรได้อย่างอิสระ"

พนักงานปัจจุบันคนหนึ่งของ Google DeepMind ซึ่งขอไม่เปิดเผยชื่อเนื่องจากเกรงว่าจะถูกตอบโต้จากบริษัท ให้สัมภาษณ์กับบีบีซีว่า "พนักงานจำนวนมากที่มีแรงจูงใจและเข้าร่วมบริษัทเพราะเชื่อมั่นในพันธกิจดั้งเดิมขององค์กรอาจตัดสินใจลาออก แต่ในขณะเดียวกันก็มีคนรุ่นใหม่ที่เพิ่งเริ่มต้นอาชีพพร้อมเข้ามาแทนที่ตำแหน่งเหล่านั้น มันอาจเป็นการผลัดเปลี่ยนรุ่นของบุคลากร"

พนักงานอีกคนหนึ่งของ Google DeepMind ซึ่งขอสงวนนามเช่นกัน กล่าวว่า "มีคนจำนวนมากลาออกจากบริษัท เพราะไม่เห็นด้วยอย่างยิ่งกับเรื่องนี้" ซึ่งพวกเขาหมายถึงการเปลี่ยนแปลงจุดยืนด้านจริยธรรมของ Google DeepMind

เขากล่าวเพิ่มเติมว่า "บางคนยังคงพยายามต่อสู้และแสดงการคัดค้านภายในองค์กร ขณะที่บางคนคิดว่า 'นี่คือบริษัทขนาดใหญ่ จะคาดหวังให้เปลี่ยนแปลงอะไรได้มากแค่ไหนกัน?'"

ข้อตกลงของกูเกิลกับอิสราเอลก็เป็นประเด็นที่ได้รับการถกเถียงเช่นกัน ในปี 2024 กูเกิลถูกพนักงานวิพากษ์วิจารณ์เรื่องการเข้าร่วมสัญญากับแอมะซอน (Amazon) มูลค่า 1.2 พันล้านดอลลาร์สหรัฐ ภายใต้โครงการที่ชื่อว่า โปรเจกต์นิมบัส (Project Nimbus) ซึ่งจัดหาเทคโนโลยีเอไอ และโครงสร้างพื้นฐานด้านคลาวด์คอมพิวติง ( cloud computing) ให้แก่รัฐบาลและกองทัพอิสราเอล

ในขณะนั้นกูเกิลชี้แจงว่า "โปรเจกต์นิมบัสไม่ได้ถูกออกแบบมาเพื่อรองรับงานที่มีความอ่อนไหวสูง งานที่เป็นชั้นความลับ หรือเกี่ยวข้องกับภารกิจทางทหารด้านอาวุธหรือหน่วยข่าวกรอง"

นอกจากนี้ศักยภาพด้านเอไอของอิสราเอลในการทำสงครามยังกลายเป็นประเด็นถกเถียง หลังเรื่องนี้ถูกนำเสนอในสารคดีเรื่อง Naza ซึ่งสำรวจบทบาทของระบบคัดเลือกเป้าหมายด้วยเอไอ ที่ถูกใช้ในการโจมตีฉนวนกาซา และส่งผลให้มีพลเรือนเสียชีวิตจำนวนมาก อย่างไรก็ตาม รัฐมนตรีคนหนึ่งของรัฐบาลอิสราเอลได้ออกมาระบุว่า ข้อกล่าวอ้างที่นำเสนอในสารคดีดังกล่าวเป็นข้อมูลที่ ไม่เป็นความจริงและบิดเบือนข้อเท็จจริง

ด้านแอนเดรียส เคิร์ช อดีตพนักงานของกูเกิล เห็นว่าเทคโนโลยีเอไอสำหรับการทำสงครามยังไม่มีความพร้อมเพียงพอที่จะนำไปใช้ในสนามรบ

เขากล่าวว่า "โมเดลเอไอในปัจจุบันยังไม่มีความน่าเชื่อถือและความแข็งแกร่งมากพอ และผมก็ไม่คิดว่ามันได้รับการฝึกฝนมาเพื่อภารกิจลักษณะนี้ด้วย"

รายงานเพิ่มเติมโดย โรซา ราฮิมิ