स्कार्ली रियलिस्टिक डीपफेक का प्रसार एआई के उदय के अधिक खतरनाक उपोत्पादों में से एक है, और इन डीपफेक के आधार पर घोटालों का शिकार होने वाली पीड़ित पहले से ही लागत वाली कंपनियां हैं करोड़ों डॉलर – राष्ट्रीय सुरक्षा पर होने वाले निहितार्थों का उल्लेख नहीं करना। एक स्टार्टअप जो सरकारों और उद्यमों के उद्देश्य से एक टूलसेट का निर्माण करता है, जो ऑडियो, वीडियो में डीपफेक और इम्प्रैसेशन का पता लगाने और रोकने में मदद करता है, और अभी भी छवियां कुछ प्रभावशाली ग्राहकों और निवेशकों के साथ बुधवार को कुछ फंडिंग की घोषणा कर रही हैं।
असली लें -डीपफेक मीडिया का पता लगाने में अग्रदूतों में से एक, हनी फरीद द्वारा सह-स्थापना-इक्विटी में $ 17.5 मिलियन जुटाए गए हैं, यह फंडिंग कि यह आर एंड डी, हायरिंग और व्यवसाय विकास के लिए उपयोग कर रहा है।
फंडिंग के साथ-साथ, कंपनी एक सेवा के रूप में अपने फोरेंसिक प्लेटफॉर्म को लॉन्च कर रही है, जिसमें एक वेब इंटरफ़ेस, एक एपीआई और मीडिया विश्लेषण-ए-ए-सर्विस चलाने के लिए एकीकरण शामिल है। सुविधाओं में एक खतरा जोखिम डैशबोर्ड शामिल है; एक “निरीक्षण” उपकरण विशेष रूप से हाई-प्रोफाइल अधिकारियों को खराब होने से बचाने के उद्देश्य से; स्क्रीन मीडिया के लिए एक “सुरक्षा” उपकरण; और “प्रतिक्रिया”, जिसमें गेट्रेल में मानव टीमों को शामिल किया गया है जो गहन विश्लेषण करते हैं।
फोर्जपॉइंट कैपिटल, साइबर सुरक्षा और एआई में एक विशेषज्ञ, इस श्रृंखला ए के साथ बैलिस्टिक वेंचर्स, इवोल्यूशन इक्विटी और के 2 एक्सेस फंड में भाग लेने के साथ अग्रणी है।
बैलिस्टिक उस सूची में एक महत्वपूर्ण फर्म है। GetReal को 2022 से VC में incubated किया गया था जब तक कि यह जून 2024 में चुपके से नहीं निकला था। बैलिस्टिक ने GetReal के $ 7 मिलियन बीज का नेतृत्व किया – एक दौर जो कि, प्रति, प्रति चोटी की किताबवेनरॉक, कारीगर, क्विट और सिल्वर बकशॉट भी शामिल थे।
बैलिस्टिक एक और कारण से महत्वपूर्ण है: फर्म के संस्थापक, टेड श्लेन, चेयरमैन और गेट्रियल के अन्य सह-संस्थापक हैं। बैलिस्टिक से पहले, श्लेन ने क्लेनर पर्किन्स का नेतृत्व किया।
एक सेवा के रूप में हानी
GetReal साइबर सुरक्षा की व्यापक दुनिया में बैठता है, विशेष रूप से साइबर-फोरेंसिक के तेजी से विकसित होने वाले क्षेत्र में। सैन मेटो-आधारित स्टार्टअप को संबोधित करने वाले बाजार में अंतर उस स्थान में प्रतिभा और ज्ञान की कमी है।
“अगर आपको लगता है कि साइबर सुरक्षा में लोगों की कमी है, तो फोरेंसिक के लिए तैयार हो जाओ,” मैट मोयनाहन ने कहा, गेट्रियल के सीईओ।
मोयनहन स्टार्टअप के संस्थापक नहीं हैं; वह गेट्रियल में आया था, जबकि यह अभी भी चुपके में थी एक तीन दशक भर कैरियर सिमेंटेक, आर्बर नेटवर्क, वेराकोड और फोर्सपॉइंट जैसी प्रमुख साइबर सुरक्षा कंपनियों की एक स्ट्रिंग का नेतृत्व किया।
“ईमानदार होने के लिए, मुझे नहीं लगता कि मैंने इस सर्वव्यापी को खतरा देखा है,” उन्होंने दुर्भावनापूर्ण डीपफेक बनाने और फिर लागू करने की क्षमता के बारे में कहा।
उन्होंने वायरस को तुलना में “उपन्यास खतरा” के रूप में वर्णित किया। उन्होंने कहा, “हमने पिछले 20 वर्षों में जो देखा है, वह अंतिम उपयोगकर्ता के लिए जाने का खतरा है।” “फन” ऐप्स जो लोगों को डीपफेक बनाने देते हैं, वे समस्या का हिस्सा हैं, लेकिन ऐसा वातावरण है जो हम आज में काम करते हैं। “लोग ईंटों और मोर्टार से उन व्यवसायों में चले गए हैं जो अब लगभग पूरी तरह से डिजिटल और क्लाउड में हैं।”
फ़िशिंग, उन्होंने कहा, यह साबित कर दिया कि बहुत स्मार्ट लोगों को भी आसानी से धोखा दिया जा सकता है, और सभी को एक साथ ले जाया जा सकता है, यह एक जटिल और बहुत बुरा संकेत है जहां चीजें जा सकती हैं।
GetReal फरीद के दिमाग की उपज है, एक लंबे समय से, प्रसिद्ध अकादमिक (वर्तमान में यूसी बर्कले में) जिसे माना जाता है प्रथम अन्वेषक डिजिटल छवियों को पहचानने के लिए तकनीकों में। यकीनन, फरीद शब्द के अस्तित्व में आने से पहले डीपफेक के जोखिमों को समझ रहा था।
जैसा कि फरीद ने TechCrunch को समझाया, मुख्य रूप से एक अकादमिक और शोधकर्ता के रूप में काम करते हुए, वह मीडिया संगठनों, कानूनी टीमों (डिजिटल छवियों के बाद अदालत में स्वीकार्य होने के बाद), और अन्य लोगों के लिए एक सेवा के रूप में कम या ज्यादा अनौपचारिक रूप से अपनी सीखों को लागू कर रहा है। 2022 में, वह श्लेन के साथ मिलकर इस बात पर विचार करने के लिए आया कि उस खोजी प्रक्रिया को कोड में बदलकर, एक वास्तविक व्यवसाय में कैसे अनुवाद किया जाए।
मोय्नाहन ने कहा, “इस तरह से कोई भी इस तरह से नहीं है।” “लेकिन हानी स्केल नहीं कर सकता। इसलिए हमने मूल रूप से हानी ली और क्लाउड में एक ‘हानी सेवा’ बनाने की कोशिश की।”
दिलचस्प बात यह है कि फरीद ने ध्यान दिया कि जब तकनीक विकसित हो रही है, तो यह इस बात पर निर्भर करता है कि नए ऐप कैसे काम करते हैं – गेट्रियल में होने वाली बहुत सारी रिवर्स इंजीनियरिंग है – यह दशकों के ज्ञान के साथ संयुक्त है जो बहुत कम बदल गया है।
“ऐसी तकनीकें हैं जिन्हें हमने 20 साल पहले विकसित किया था जो आज भी काम करते हैं,” उन्होंने कहा। उन्होंने यह समझाने से इनकार कर दिया कि वे क्या हैं। “आपको लोगों को हम जो कुछ भी करते हैं उसे बताने की ज़रूरत नहीं है, लेकिन यह सही होने के लिए जटिल है।”
सिग्नल प्रभाव: पाठ अभी भी आने वाला है
बुधवार की घोषणा की जा रही श्रृंखला में कुछ प्रमुख रणनीतिक बैकर्स भी शामिल हैं जिनमें सिस्को इन्वेस्टमेंट्स, कैपिटल वन वेंचर्स और इन-क्यू-टेल, और इन्वेस्टमेंट फर्म को सीआईए के साथ निकटता से जोड़ा गया है।
स्ट्रैटेजिक्स की यह सूची उन कंपनियों के प्रकारों को दर्शाती है, जिनमें रुचि रखते हैं या पहले से ही गेट्रियल के उत्पाद को अपनाना शुरू कर चुके हैं, फोर्जपॉइंट के सह-संस्थापक अल्बर्टो येपेज़ ने कहा, जिन्होंने निवेश का नेतृत्व किया।
यिपेज़ ने कहा कि उन्होंने उचित परिश्रम के दौरान पाया कि भारी विनियमित उद्योग – जैसे कि वित्तीय संस्थान – पहले से ही इस तरह के एक उत्पाद के लिए पूछ रहे थे, और सिसोस निदेशक मंडल से एक जनादेश पर पहुंच रहे थे।
उन्होंने कहा, “उनके सीईओ को आवाज के साक्षात्कार में डालने के बाद उन्होंने इस मुद्दे (डीपफेकेड इम्प्रोन्सेशन) को उठाया।” वे खुद को बाधित कर रहे थे और प्रतिरूपण द्वारा छल किया। नामित ग्राहकों में जॉन डीरे और वीजा शामिल हैं।
सरकार के काम के लिए, Yépez ने कहा, “अंतरिक्ष में उनकी कुछ प्राथमिकताएं भी हैं।”
इन “प्राथमिकताओं” में खुफिया एजेंसियों और सरकारी अधिकारियों को बुरे अभिनेताओं से नकली जानकारी के आधार पर अभिनय, या अभिनय में नहीं किया जा रहा है।
हालांकि, उनके पास अभी तक पाठ-आधारित प्रतिरूपण का विस्तार करने के लिए है।
यह कुछ ऐसा है जो केवल इस सप्ताह आया था, जब अटलांटिक के संपादक – गलती से एक सिग्नल ग्रुप चैट में जोड़े गए, यमन में एक सैन्य हमले की योजना बना रहे थे – शुरू में यह मान लिया कि यह एक प्रतिरूपण धोखा था। चौंकाने वाली बात यह है कि यह चैट राष्ट्रीय सुरक्षा प्रक्रियाओं के उल्लंघन में बहुत वास्तविक और बहुत अधिक निकला।
फरीद ने कहा कि पाठ वर्तमान में गेट्रियल के दायरे में नहीं है। “यह एक अलग जानवर है,” उन्होंने कहा। लेकिन लंबे समय तक, योजना सभी प्रकार के डीपफेक और प्रतिरूपण खतरों को शामिल करने के लिए समय के साथ गुंजाइश को चौड़ा करने की होगी।
