เจ้าหน้าที่จีนเปิดเผยว่า นักต้มตุ๋นรายหนึ่งใช้ปัญญาประดิษฐ์ (AI) เพื่อปลอมตัวเป็นเพื่อนของเหยื่อที่เป็นนักธุรกิจ และโน้มน้าวให้เขาโอนเงินหลายล้านหยวน โดยเหยื่อซึ่งมีนามสกุลแซ่กัว ได้รับวิดีโอคอลในเดือนเมษายน จากบุคคลที่ดูและฟังดูเหมือนเป็นเพื่อนสนิทของเขา
จากรายงานข่าวที่เผยแพร่เมื่อวันจันทร์โดยสื่อที่เกี่ยวข้องกับทางการเมืองฝูโจว ในมณฑลฝูเจี้ยน ระบุว่า กลับพบว่าผู้โทรเป็นนักต้มตุ๋น ที่ใช้เทคโนโลยี AI เพื่อเปลี่ยนใบหน้าและเสียงของเขา เพื่อปลอมตัวเป็นเพื่อนสนิทของนายกัว และทำการฉ้อโกง
นายกัวถูกชักชวนให้โอนเงินจำนวน 4.3 ล้านหยวน หรือราว 21 ล้านบาท หลังจากที่ผู้ฉ้อโกงอ้างว่าเพื่อนอีกคนต้องการให้ถอนเงินจากบัญชีธนาคารของบริษัท เพื่อจ่ายค้ำประกันการประมูล นักต้มตุ๋นขอหมายเลขบัญชีธนาคารส่วนบุคคลของนายกัว แล้วอ้างว่ามีการโอนเงินจำนวนที่เทียบเท่ากันไปยังบัญชีนั้น โดยส่งภาพหน้าจอของบันทึกการชำระเงินที่เป็นการฉ้อโกงมาให้เขา
ต่อมานายกัวได้ส่งการชำระเงินสองครั้งจากบัญชีบริษัทของเขา โดยไม่ได้ตรวจสอบว่าเขาได้รับเงินครบตามจำนวนที่ร้องขอ "ในตอนนั้น ผมได้ยืนยันใบหน้าและเสียงของบุคคลที่วิดีโอคอลหา ดังนั้น เขาจึงไม่ทันระวังตัว" อย่างไรก็ตาม หลังจากนั้นเขาจึงตระหนักได้ถึงความผิดพลาดของตนเอง หลังจากส่งข้อความถึงเพื่อนที่ถูกขโมยตัวตนและไม่มีความรู้เรื่องการทำธุรกรรม
นายกัวได้แจ้งตำรวจ ซึ่งได้ทำการแจ้งธนาคารในเมืองอื่นไม่ให้ดำเนินการโอนเงิน และสามารถเรียกเงินคืนได้ 3.4 ล้านหยวน รายงานระบุว่า ความพยายามในการเรียกคืนเงินที่เหลือนั้นยังคงดำเนินอยู่ แต่ไม่สามารถระบุตัวผู้กระทำผิดครั้งนี้ได้
หลุมพรางที่อาจเกิดขึ้นจากเทคโนโลยี AI ได้รับความสนใจมากขึ้น นับตั้งแต่บริษัท โอเพนเอไอ ( OpenAI) ในสหรัฐฯ เปิดตัวแชตบอต "แชตจีพีที" (ChatGPT) ซึ่งเป็นแชตบอตที่เลียนแบบการสนทนาของมนุษย์ เมื่อเดือนพฤศจิกายน
...
จีนได้ประกาศแผนการขึ้นเป็นผู้นำด้าน AI ระดับโลกภายในปี 2573 และบริษัทเทคโนโลยีหลายแห่ง เช่น อาลีบาบา, "เจดี ดอต คอม" (JD.com) "เน็ตอีส" (NetEase) และ "ไบต์แดนซ์" (ByteDance) ซึ่งเป็นบริษัทแม่ของ "ติ๊กต่อก" (TikTok) ได้เร่งพัฒนาผลิตภัณฑ์ที่คล้ายคลึงกัน
แม้แชตจีพีที จะไม่สามารถใช้งานได้ในจีน แต่ซอฟต์แวร์ของอเมริกากำลังได้รับฐานผู้ใช้ชาวจีนที่ใช้เครือข่ายส่วนตัวเสมือน เพื่อเข้าถึงการเขียนเรียงความและการโกงข้อสอบ อย่างไรก็ตาม มันยังถูกใช้เพื่อจุดประสงค์ที่เลวร้ายยิ่งกว่า
ก่อนหน้านี้ในเดือนพฤษภาคม ตำรวจในมณฑลกานซู ทางตะวันตกเฉียงเหนือของจีน กล่าวว่า มีการใช้มาตรการ "บีบบังคับ" กับชายคนหนึ่งที่ใช้แชตจีพีที เพื่อสร้างบทความข่าวปลอมเกี่ยวกับอุบัติเหตุรถบัสชนกัน ซึ่งแพร่กระจายอย่างกว้างขวางในโซเชียลมีเดีย
กฎหมายที่ควบคุม "ดีปเฟก" (Deepfake) หรือเทคโนโลยีที่ใช้สร้างสื่อสังเคราะห์เพื่อปลอมแปลงลักษณะบุคคลต่างๆ ผ่านสื่อวิดีโอและภาพถ่าย ซึ่งมีผลบังคับใช้ในเดือนมกราคม ห้ามใช้เทคโนโลยีในการผลิต เผยแพร่ หรือส่งข่าวเท็จ
นอกจากนั้น ร่างกฎหมายที่เสนอในเดือนเมษายน โดยหน่วยงานควบคุมอินเทอร์เน็ตของรัฐบาลจีน กำหนดให้ผลิตภัณฑ์ AI ใหม่ทั้งหมด ต้องผ่าน "การประเมินความปลอดภัย" ก่อนเผยแพร่สู่สาธารณะ.