Kidas tar ett stort problem med en liten låda
I ungefär det senaste året har Ron Curbs företag arbetat med en övervakningsenhet som lyssnar på onlinechatt för flera spelare och försöker erbjuda föräldrar som är oroliga för deras barns onlinebeteende eller deras säkerhet. Trottoarkanter förstår att han försöker trä en liten nål: föräldrar hittar inte hans lösning, kallad Kidas, användbar om den pingar dem varje gång någon säger ett dåligt ord. Så just nu finns det några underhållande falska positiva saker.
För ett par veckor sedan, säger han, tog en Kidas-enhet i ett testhem upp en oroande konversation bland ungdomar. Inga svordomar, men hån och hot utbyttes. När detta händer ser en mänsklig analytiker över händelsen och avgör om föräldrarna ska meddelas.
“Barnet spelade faktiskt Bully” skrattade Curbs. “Vi var i grunden uppmärksamma på en situation som hände i själva spelet.” Spelaren var på Xbox Live-partychatt som de var i enspelarspelet, och Kidas förvirrade spelets dialog för en konfrontation online.
Det här är den typ av felaktigheter som du kommer att få när du bygger något så ambitiöst som Curbs idé: en lösning som deltar i att hålla barnen säkra och glada online, utan att vifta med ett finger på dem eller kränka deras integritet. Det visas tillräckligt med framgång, över en tät beta i färre än 100 Xbox-hushåll, för att locka intresse och stöd från stora startinkubatorer, den senaste är NBCUniversals Lift Labs. (Upplysning: NBCUniversal är en betydande investerare i Pro Spelare, som äger ProSpelare.)
Kidas hårdvara är alla delar från hyllan, sa Curbs. Bild: Kidas / Lift Labs
Kidas, baserat i Philadelphia, är en start för 10 personer som tar upp en sak som större spelare har omfamnat i mindre mått under det senaste året. Electronic Arts introducerade i sommar en ny uppsättning standarder för både sig själv och sina spelare, avsedda att skapa hälsosammare onlinesamhällen i sina enorma multiplayer-spel. Den nya PlayStation 5 har en funktion som spelar in chattdialog för att hjälpa moderatorer att granska klagomål om verbalt missbruk eller andra uppförandekoder. Och för bara en vecka sedan undertecknade Microsoft, Sony och Nintendo ett löfte om att göra videospel säkrare, särskilt för sina yngre spelare.
Kidas teknik är främst för en förälder, särskilt en förälder som inte tycker att dessa företags uttalanden är tillräckliga, och inte heller vädjar till de bättre änglarna av vår online-natur. Curbs kom till idén för Kidas efter sin tjänst i den israeliska militären, där han utvecklade hotdetekteringslösningar för landets centrala underrättelseenhet. Ursprungligen sa Curbs till ProSpelare att Kidas avsåg att övervaka social media-trafik i allmänhet. Men det var bara för stort utrymme att hantera.
”Vi bestämde oss för att byta från sociala medier till spel, [where] röstsamtal är mycket svåra att övervaka, sade Curbs. ”Baserat på den nuvarande tekniken visste vi från vår tidigare erfarenhet att vi har tekniska färdigheter för att göra det. Vi bestämde oss för att rikta in oss på något som ingen annan har gjort tidigare, och övervaka röstkonversationerna på ett mycket exakt sätt och varna föräldrar om dessa fall. ”
“När Ron först kom in i vårt program handlade Kidas inte bara om spel”, säger Danielle Cohn, Lift Labs vice president. ”Det var mer en allmän produkt. Vad han upptäckte var att det fanns ett stort behov av spel. […] Ibland, när du skapar en produkt och din start, försöker du göra för mycket på en gång. Jag tror att Ron är smart med det här, där han börjar med spel. Och om han kan gå riktigt djupt i spel och perfekta det och testa det där, kan det ha en bredare användning. ”
På frågan om vad som får Kidas att gå, nämnde Curbs begrepp som neurala nätverk och maskininlärning. Uppenbarligen skulle det behöva förlita sig på en mycket sofistikerad och ständigt föränderlig kod för att skilja mellan barn oskyldigt papperskorgen och något som definitivt skulle föra en förälder in i rummet – hot om våld, nedsättande språk eller uppmaningar från ett rovdjur.
Ett rutinmeddelande som en Kidas-förälder kan få. Bild: Kidas / Lift Labs
Viktigt är att han inte tänker att enheten ska vara en barnomsorg i lekrummet. Kidas antar som en produkt att en involverad förälder har konversationer med sitt barn. Och Kidas själv ger dem mycket mer än en chattlogg med nyckelord som snubblar sina sensorer. “Vi kommer inte att varna föräldrar varje gång någon flammar någon annan i en chatt,” sade Curbs. ”Vi kommer att varna föräldrar om upprepad mobbning, och fall där deras barn till och med riktas mot mobbning, och [if it’s] påverkar honom eller henne psykiskt och till och med förändrar deras uppskattning på grund av det. ”
Trottoarkanter skulle inte säga hur många hushåll som finns i Kidas pågående beta (bara att de har en lång väntelista). Men storleken kan inte vara stor med tanke på hur djupt interaktionen Kidas förlitar sig på för att forma sina varningar och meddelanden, så att föräldrar får faktiskt användbar information. Cohn, för Lift Labs, ser att Kidas redan uppnår det målet. “Det jag har varit mest imponerad av är den feedback som han fått från några av de föräldrar som har provat detta”, sa hon. “Det är fortfarande i början, men det är verkligen ett spännande utrymme som också kommer att ge lite sinnesfrid.”
Kidas har för närvarande några uppenbara begränsningar – det fungerar bara med en Xbox One eller Xbox Series X, till att börja med. Dongellösningen, även om den är byggd med hårdvara, är också nödvändig eftersom Curbs och Kidas inte har tillgång till den stängda miljön i Microsofts Xbox Live-nätverk. Helst säger han att de en dag kommer att göra det och Kidas kommer att vara en mjukvara som körs på själva konsolen.
Lika viktigt, säger Curbs, är att presentera Kidas som en hjälpreda, inte som något vars närvaro säger att varken föräldern eller barnet är videospel, i ansiktet, en dålig eller farlig sak.
”Vårt mål är inte, berätta [parents], ‘OK, han borde inte spela Xbox längre, eller han borde inte spela PlayStation längre’ ‘, säger Curbs, själv en fan som växte upp och älskade videospel. ”Vårt mål är att ge dem verktyg för att prata om detta ämne med sitt barn, få honom eller henne att förstå. “Vad är rätt taktik för att hantera dessa människor?” “