เดือนมีนาคม 2562 ซีอีโอของบริษัทพลังงานแห่งหนึ่งในประเทศอังกฤษได้รับสายด่วนจากเจ้านายซึ่งเป็นผู้บริหารของบริษัทแม่ที่เยอรมนี โดยเจ้านายชาวเยอรมันสั่งให้ลูกน้องของเขาโอนเงินจำนวน 220,000 ยูโร (ประมาณ 8.5 ล้านบาท) ให้กับตัวแทนซัพพลายเออร์ในฮังการี ซึ่งต้องโอนเงินเป็นกรณีเร่งด่วนและต้องแล้วเสร็จภายใน 1 ชั่วโมง เนื่องจากซีอีโอชาวอังกฤษจำสำเนียงเยอรมันที่โดดเด่นของเจ้านายได้ดี เขาจึงรีบอนุมัติการโอนเงินในทันที ทว่าโชคร้ายที่ซีอีโอชาวอังกฤษไม่ได้คุยกับเจ้านายของเขา แต่กลับคุยกับปัญญาประดิษฐ์ที่เลียนเสียงและแอบอ้างตัวเป็นเจ้านายชาวเยอรมัน

 องค์กรธุรกิจควรต้องตระหนกกับเหตุการณ์นี้หรือไม่? คำตอบคือทั้งใช่และไม่ใช่ ที่ธุรกิจต้องกังวลคือรูปแบบความซับซ้อนในการหลอกลวงที่ดูแนบเนียนและที่สำคัญเป็นการโจมตีที่ประสบความสำเร็จ แต่ที่ยังเบาใจได้คือมันยังต้องใช้ความพยายามและทรัพยากรอย่างมากในการจู่โจมรูปแบบนี้และเป้าหมายใหญ่อย่างบริษัทข้ามชาติ ซึ่งสิ่งนี้กำลังจะเปลี่ยนไป โดยเครื่องมือที่ใช้บิดเบือนข้อมูลสามารถขยายเป็นสองทางอย่างน่าทึ่ง อย่างแรก คือ มันทำให้ผู้ที่ไม่หวังดีใช้วิธีนี้จู่โจมได้ง่ายมากขึ้น แม้จะมีเปอร์เซ็นต์ความสำเร็จน้อยแต่สิ่งที่ได้มาก็คุ้ม อย่างที่สองเมื่อเทคโนโลยี Deep-Fake หรือการปลอมแปลงอัตลักษณ์ของบุคคลด้วยปัญญาประดิษฐ์ที่ทรงพลังและใช้ง่ายตกอยู่ในมือคนจำนวนมากที่ทำให้ใครก็ได้สามารถโจมตีเป้าหมายที่ต้องการไม่ว่าจะด้วยเหตุผลใดก็ตาม

 เทคโนโลยีเอไอ (AI) และแมชชีนเลิร์นนิ่ง (Machine Learning) แทรกซึมอยู่ในธุรกิจและการสื่อสารสมัยใหม่ ซึ่งไม่น่าแปลกใจที่จะมีการใช้เทคโนโลยีเหล่านี้ไปในทางที่ผิดกฎหมาย การล่อลวงแบบดีปเฟก (Deepfakes) สามารถเป็นได้ทั้งเสียง รูปภาพ และวิดีโอที่ดูเสมือนจริงแต่กลับเป็นสิ่งประดิษฐ์ที่สร้างขึ้นด้วยเอไอ เหล่านี้เป็นปรากฏการณ์ครั้งล่าสุดของการบิดเบือนข้อมูลในแบบที่ RAND Corporation หน่วยงานด้านนโยบายระดับโลกของอเมริกา ได้อธิบายไว้ว่าเป็น “วัฒนธรรมการเสื่อมสลายของความจริง” (หรือ Truth Decay) เป็นพลวัตที่มีการถกเถียงอย่างมากถึงขอบเขตในด้านการเมืองและทฤษฎีสมคบคิด ในขณะที่บริบทของธุรกิจการสูญเสียความสัตย์จริงทางออนไลน์กลับได้รับความสนใจน้อยกว่า ขณะที่บริษัทต่าง ๆ พยายามป้องกันการโจมตีของแรมซัมแวร์พวกเขากลับไม่ได้ทำอะไรเพื่อเตรียมพร้อมรับมือกับการจู่โจมจากสื่อสังเคราะห์เหล่านี้

 เทคโนโลยี Deep-fake ได้พัฒนาก้าวหน้าไปอย่างมากในช่วงไม่กี่ปีที่ผ่านมา นับตั้งแต่ซีอีโอชาวอังกฤษคนนั้นถูกหลอกโดยเอไอที่เลียนเสียงพูดเจ้านายของเขา และยังส่งผลให้เครื่องมือต่าง ๆ ที่จำเป็นในการสร้างดีปเฟกเข้าถึงได้มากขึ้นเช่นกัน ซึ่งการสร้างภาพหรือวิดีโอปลอม ๆ ขึ้นมาให้ดูน่าเชื่อถือขอเพียงมีคอมพิวเตอร์คุณภาพดี (ซึ่งอุปกรณ์ที่ลูก ๆ วัยรุ่นของคุณใช้เล่นเกมก็เพียงพอแล้ว) และคอลเลกชันรูปภาพดี ๆ ของเป้าหมายเท่านั้น สิ่งเหล่านี้ทำให้ผู้บริหารองค์กรธุรกิจต้องเผชิญกับความเสี่ยงมากขึ้นเป็นพิเศษ

 ซีอีโอและผู้บริหารแถวหน้าคนอื่น ๆ ในองค์กรล้วนเป็นที่รู้จักในสาธารณะ และโดยปกติจะมีภาพและบันทึกกิจกรรมของบุคคลเหล่านี้ในบริบทต่าง ๆ เผยแพร่ในสื่อสาธารณะ ซึ่งสิ่งเหล่านี้จะทำให้นักต้มตุ๋นดีปเฟก (Deepfakers) มีเครื่องมือทั้งหมดที่จำเป็นในการสร้าง “ตัวตนเสมือน” เพื่อเลียนแบบอัตลักษณ์ต่าง ๆ ของผู้บริหารเหล่านั้น

 การปลอมแปลงในลักษณะดังกล่าวนี้เกิดขึ้นแล้วกับบุคคลสาธารณะมากมาย บ่อยครั้งเกิดกับคนดัง ๆ ที่มักถูกนำภาพไปใช้ในทางอนาจารโดยที่ไม่ได้รับความยินยอม รูปสาธารณะของดารารวมกับเนื้อหาลามกอนาจารถูกนำมาผลิตใช้เสมือนของจริงจนน่าตกใจ ลองจินตนาการถึงเรื่องอื้อฉาวและการควบคุมความเสียหายหากเกิดเรื่องแบบนี้กับซีอีโอขององค์กร หรือจัดฉากการติดสินบนโดยมีนักแสดงยื่นเงินให้กันแล้วเอาใบหน้าของนักการเมืองหรือผู้บริหารด้านการเงินขององค์กรคุณมาสวมแทน แรนซัมแวร์อาจเป็นเรื่องน่ากลัวของวันนี้แต่พรุ่งนี้สิ่งที่จะมาแทนคือการใช้ดีปเฟกเพื่อการขู่กรรโชกหรือการให้ร้ายแก่กัน

 เกี่ยวกับการ์ทเนอร์

บริษัท การ์ทเนอร์ (Gartner, Inc.) (NYSE: IT) คือบริษัทวิจัยและให้คำปรึกษาชั้นนำของโลก และมีรายชื่ออยู่ในดัชนี S&P 500 บริษัทฯ ให้ข้อมูลเชิงลึก คำแนะนำ และเครื่องมือต่าง ๆ แก่ผู้บริหารองค์กรธุรกิจ เพื่อรองรับการดำเนินภารกิจสำคัญที่มีอยู่ในปัจจุบันและสร้างองค์กรให้ประสบความสำเร็จในอนาคต

 การ์ทเนอร์นำเสนองานวิจัยที่ขับเคลื่อนด้วยข้อมูล ดำเนินการโดยผู้เชี่ยวชาญ และใช้แหล่งข้อมูลจากผู้ปฏิบัติงานจริง เพื่อชี้นำลูกค้าสำหรับการตัดสินใจที่ถูกต้องเหมาะสมในเรื่องที่สำคัญที่สุด การ์ทเนอร์ทำหน้าที่เป็นแหล่งข้อมูลที่เป็นกลางและเป็นที่ปรึกษาที่ได้รับความไว้วางใจจากองค์กรต่าง ๆ กว่า 14,000 แห่งในกว่า 100 ประเทศทั่วโลก ครอบคลุมทุกส่วนงานสำคัญ ๆ ในทุกกลุ่มอุตสาหกรรมและองค์กรทุกขนาด

 ดูข้อมูลเพิ่มเติมเกี่ยวกับแนวทางของการ์ทเนอร์ในการช่วยให้ผู้บริหารตัดสินใจอย่างถูกต้องเพื่อขับเคลื่อนอนาคตของธุรกิจได้ที่ gartner.com

แดริน สจ๊วต

รองประธานฝ่ายวิจัย การ์ทเนอร์ อิงค์

 แดริน สจ๊วต ให้คำปรึกษาเกี่ยวกับแนวทางการนำข้อมูลเชิงลึกและความรู้ที่ไร้โครงสร้าง โดยมีความเชี่ยวชาญในสาขาต่าง ๆ มากมาย ประกอบด้วย การจัดการความรู้ สถาปัตยกรรมข้อมูล เครื่องมือค้นหาและข้อมูลเชิงลึก การวิเคราะห์ข้อมูลและการประมวลผลภาษาธรรมชาติ และบริการเนื้อหาอื่น ๆ งานวิจัยและการให้คำปรึกษาของ ดร.สจ๊วต มาจากประสบการณ์จริงในอุตสาหกรรมและการทำงานในด้านวิชาการที่กว้างขวาง เขาได้รับการยกย่องว่าเป็นผู้สื่อสารที่มีประสิทธิภาพในการแปลเทคโนโลยีและแนวคิดที่ซับซ้อนให้เป็นโซลูชั่นทางธุรกิจที่นำไปบริหารจัดการและนำไปใช้ได้อย่างเหมาะสม

 ประสบการณ์ที่ผ่านมา

ก่อนร่วมงานกับการ์ทเนอร์ ดร.สจ๊วตเคยเป็นผู้อำนวยการฝ่ายการวิจัยและการทำงานร่วมกันของระบบให้กับ มหาวิทยาลัยวิทยาศาสตร์สุขภาพโอเรกอน (Oregon Health & Science University) รับผิดชอบด้านการวิจัยและการบริหารระบบสารสนเทศ กลยุทธ์ในการสร้างเว็บและการริเริ่มการใช้งานอินทราเน็ต เขาเป็นหนึ่งในสมาชิกของคณะการจัดการและประยุกต์ข้อมูลที่มหาวิทยาลัยโอเรกอน (University of Oregon) ตั้งแต่ปี 2547 และเคยดำรงตำแหน่งผู้นำการจัดการข้อมูลในองค์กรต่าง ๆ ตั้งแต่ บริษัทสตาร์ทอัพด้านอินเทอร์เน็ตไปจนถึงมหาวิทยาลัยชั้นนำ นอกจากนี้เขายังเป็นผู้เขียนหนังสือ "Building Enterprise Taxonomies"

“ชนเผ่าอนารยชนก็ยังมีผู้ปกครอง ไม่เหมือนกับดินแดนอารยะของเรา ที่กลับไร้ผู้ปกครอง”  --- ขงจื้อ (หลุนอี่ว์ เล่มที่ 3 บทที่ 5)

เมื่อเร็วๆ นี้มีหลายเรื่องที่มากระทบใจ

“ด้ายแดง” ละครที่กำลังออนแอร์กำลังงวดเข้ามาทุกที แม่ผัวผู้เลือดเย็นที่ชอบใช้ Fake News ปั่นหัวลูกชายลูกสะใภ้ กำลังใช้กลยุทธ์เดิมในการสร้างความร้าวฉานเข้าใจผิดระหว่างลูกและหลานตัวเอง แต่คราวนี้ดูท่าว่าความพินาศฉิบหายกำลังจะย้อนมาถึงตัว

What goes around comes around!

และก็มีเรื่องน่าขายหน้า ที่รัฐมนตรีไทยถูกหนังสือพิมพ์ออสเตรเลียประจานว่าเคยติดคุกที่นั่นในคดียาเสพติด โดยยืนยันว่ามีหลักฐานชัดเจน พร้อมเปิดเผย

แทนที่ฝ่ายถูกกล่าวหาจะแถลงไขให้หายข้องใจ นำหลักฐานมายันกลับ รัฐมนตรีกลับพูดจาคลุมเครือในประเด็นนี้ แต่กลับไปตอบโต้ด้วยท่วงทำนองว่ามีศัตรูทางการเมืองไปสร้างพล็อตให้สื่อต่างชาติมาโจมตีตัวเอง พูดลอยๆ แบบคลุมๆ เครือๆ ไร้หลักฐาน...และผู้ใหญ่ในรัฐบาลก็ทำเหมือนไม่มีอะไรเกิดขึ้น

มันเป็นการแก้ไขวิกฤติข่าวสารที่อ่อนด้อยมาก

ถ้ามันเป็น Fake News เราต้องแก้ลำและตอบโต้ด้วย “ความจริง” และชี้ให้สังคมเห็นว่า “ข่าว” นั้นๆ มัน “ปลอม” ตรงไหนบ้าง...แยกแยะ เปลื้องเปลือย ให้มันล่อนจ้อนต่อหน้าคนดูไปเลย ถึงจะสะใจ

เชื่อว่าป่านนี้ ผู้คนร้อยทั้งร้อยที่ได้รับข่าวสารเรื่องนี้ต่าง “เชื่อ” กันแล้วว่ารัฐมนตรีคนนั้นต้องเคยมัวหมองเพราะเรื่องนี้มาก่อนเป็นแน่

ไม่เชื่อลองทำโพลดูก็ได้!

Fake News เป็นเทรนระยะยาวอันหนึ่งที่น่าวิตกในโลกยุคใหม่

เพราะ Social Media ได้ทำลายสำนักข่าวและสื่อมวลชนที่น่าเชื่อถือลงเกือบหมด และอนุญาตให้ใครก็ได้ เสนอข่าวของตัวเผยแพร่ไปทั่วโลก โดยไม่มีการตรวจสอบก่อนนำเสนอ

เดี๋ยวนี้เรามี “กูรู” ปลอมๆ แทบทุกสาขา เกิดขึ้นเต็มไปหมดบนโลกโซเชี่ยล ทั้งๆ ที่ตัวตนจริงและระดับความรู้อาจเป็นได้แค่พวก “อยู่ในรู” แต่มันก็สามารถใช้ลีลาและความลวงจริงครึ่งเท็จครึ่ง หลอก Follower ให้เชื่อได้จนสนิทใจ

ความก้าวหน้าของเทคโนโลยีก็เป็นปัจจัยช่วยให้การสร้าง Fake News ง่าย ถูก และแนบเนียน ขึ้นมาก

เดี๋ยวนี้ ไม่ใช่เฉพาะเรื่องขี้หมาเท่านั้นที่น่าเป็นห่วง เพราะแม้แต่การล่อลวงระดับชาติก็สามารถเกิดจาก Fake News ได้เหมือนกัน

รัฐบาลสหรัฐฯ ออกมาโจมตีรัสเซียว่าเป็นตัวปล่อยข่าวลวงเรื่อง “5 G ทำให้เกิดโรคสมองเสื่อม” เพราะต้องการถ่วงเวลาไม่ให้สหรัฐฯ พัฒนาเครือข่าย 5G สำเร็จเร็วเกินไป ซึ่งจะทำให้เกิด Competitive Advantage ทางเศรษฐกิจและการทหารอย่างมาก

คือหวังผลปั่นหัวคนอเมริกันว่า คลื่นและอุปกรณ์ที่ใช้ในระบบ 5G มันทำลายเซลล์สมอง ฯลฯ (เช่นเดียวกับที่กิจการขายไก่เคยใช้กลยุทธ์นี้สำเร็จมาแล้วกับคนรุ่นก่อน ในประเด็นความเชื่อเรื่อง “กินเนื้อวัว” อันตราย...หรือบาป...มากกว่าเนื้อไก่และเนื้อหมู)

หรือแม้แต่เรื่องรัสเซียแทรกแซงการเลือกตั้งครั้งที่ผ่านมา และจีนแอบขโมยข้อมูลความลับทางธุรกิจ และใช้เทคโนโลยีสอดส่องเป้าหมายระดับสูงของรัฐบาลและกองทัพ ซึ่งนำมาสู่การแบนหัวเหว่ย เป็นต้น

นั่นมันระดับ State-sponsored Fake News ที่หวังผลทั้งในเรื่องจารกรรมข้อมูลทางอินเทอร์เน็ต (Cyber Espionage) และการจู่โจมคู่ต่อสู้ทางอินเทอร์เน็ต (Cyber Attack) กันเลยทีเดียว

ดังนั้น ประเด็นเรื่อง “Cyber Securities” หรือเทคโนโลยีที่มีไว้ต่อต้านการโจมตีทางไซเบอร์จึงเป็นเรื่องสำคัญมาก

เราติดตามเรื่องนี้อยู่ด้วย และคงจะได้เล่าให้ไดอารี่ที่รักฟังในโอกาสหน้า เราว่ามีโอกาสในการลงทุนดีๆ อยู่แยะกับกิจการประเภทนี้

กลับมาเรื่อง Fake News ซึ่งประเด็นหนึ่งที่เราค่อนข้างกังวล คือการเติบโตของสิ่งที่เรียกว่าวีดีโอหรือคลิปประเภท “DEEPFAKE”

เราว่าตัวนี้น่ากลัว!

ไอ้ตัวนี้ มันเป็นคลิปวีดีโอที่สร้างขึ้นโดยอาศัยเทคโนโลยี AI (Artificial Intelligence) มันดูเหมือนจริงทุกอย่าง ทั้งคำพูดคำจา หน้าตา ท่าทาง น้ำเสียง และบรรยากาศ...แต่มันเป็นของปลอม

พวกเราลองคลิกดูคลิปนี้น๊ะ... 

สังเกตหน้าตาของ Bill Hader ตอนพูดถึง Tom Cruise และ Seth Rogan ช่วงนั้นหน้าตาท่าทางและคำพูดเขา กลายเป็น Cruise และ Rogan ไปเลย...เป็นไง เหมือนเป๊ะเลยใช่ปะ

ลองคิดดูว่า ถ้าเกิดมีคนไม่หวังดี สร้าง Deepfake เป็นบทสัมภาษณ์หรือคำแถลงของประธานาธิบดีสหรัฐฯ หรือจีน หรือเกาหลีเหนือ หรืออิหร่าน โดยให้พูดจาในเรื่องละเอียดอ่อน แล้วอัปขึ้น Social Media แล้วแชร์กันกระจายไปเป็นไวรัลอย่างรวดเร็ว...โลกมันจะไม่ยุ่งกันใหญ่เหรอ

แต่ถ้าเกิดซูซี่ลูกสะใภ้ สร้างคลิป Deepfake ว่ายายคุณนายด้ายแดง แอบพูดกับอาจูว่าให้ขโมยลูกสาวไปทิ้ง แล้วเปิดให้เจ้าสัวหลงเว่ยดูตั้งแต่แรกโน่น โศกนาฏกรรมต่างๆ ของครอบครัวมหามงคล อาจไม่เกิดขึ้น หรือไม่รุนแรงสลับซับซ้อนถึงขนาดที่เป็นอยู่เวลานี้ ก็ได้เหมือนกัน

ดังนั้น ประเด็นเรื่องการแยกแยะ Deepfake จึงสำคัญมาก เราคิดว่ามันจะเป็นเรื่องที่ฝรั่งต้องคิดหาวิธีกันหนัก เพราะกำลังจะมีเลือกตั้งใหญ่ในสหรัฐฯ ปีหน้านี้

มันเป็นเรื่องระดับโลก และต้องอาศัยพละกำลังระดับโลก

สิ่งที่ผัวคุณเภาแห่ง “สามีสีทอง” กำลังเร่งปราบปรามอยู่ที่กระทรวงดิจิทัลนั้น มันแค่การไล่จับโจรกระจอก ระดับลักเล็กขโมยน้อยเท่านั้น เพราะเรื่องแบบนี้มันเกินความสามารถของรัฐบาลไทย

ได้ยินว่า บริษัทเทคโนโลยีระดับโลกหลายรายกำลังพัฒนาซอฟต์แวร์ที่ใช้ในการตรวจสอบเนื้อหาคลิปและข้อความทวีตกันอยู่

ฟอร์แมทใหม่นี้จะใช้เครื่องหมายดิจิทัล คล้ายๆ “พรายน้ำ” (Watermark) แปะไปบนเนื้อหาที่เป็นของจริง เพื่อให้แพล็ทฟอร์ม Social Media ทั้งหลายแยกแยะได้ว่าอันไหนของจริง ก็อนุญาตให้เผยแพร่ได้ แต่อันไหนที่เป็นของปลอม ก็ตัดทิ้งไป

พวกเขาเชื่อว่า เทคโนโลยีนี้จะช่วยให้ผู้คนกลับมาไว้วางใจคอนเทนท์บนโซเชี่ยลมีเดียได้ยิ่งกว่าเดิม

ใช้ “เกลือจิ้มเกลือ”

เมื่อคนเลวจงใจใช้เทคโนโลยีเป็นเครื่องมือในการทำชั่ว คนดีก็ใช้เทคโนโลยีเข้าแก้ไขป้องกันได้เช่นกัน

ใครจะว่ายังไงก็ตาม สำหรับเราแล้ว เรายังมองโลกในแง่ดีเสมอ

ไดอารี่เอ๋ย เรายังเชื่อว่าโลกจะต้องดีขึ้น และคนรุ่นใหม่จะต้องทำได้ดีกว่าคนรุ่นเรา

ไว้พบกับใหม่น๊ะ

ไดอารี่ที่รัก,

โอเล่ 11/09/62

Cr: Dear Diary / www.gosowealth.com