Бүгін мен Superhuman компаниясының бас директоры Шишир Мехротрамен сөйлесіп жатырмын - бұл бұрын Grammarly деп аталатын компания, ол әлі де оның флагмандық өнімі.
Шишир бұрын YouTube-те бас өнім директоры болған және ол Spotify директорлар кеңесінде. Ол қызықты жігіт және біз бұл сұхбатты бір ай бұрын жоспарлаған болатынбыз, біз AI және оның бағдарламалық жасақтамаға, платформаларға және шығармашылыққа не істейтіні туралы сөйлесеміз деп ойладық.
Verge жазылушылары, подкасттарды қай жерде алсаңыз да, жарнамасыз декодерге эксклюзивті қол жеткізе алатыныңызды ұмытпаңыз. Мұнда жүріңіз. Жазылушы емессіз бе? Мұнда тіркелуге болады.
Содан кейін жағдай шынымен өзгерді. Өткен жылдың тамыз айында Grammarly AI клондалған «сарапшылардан» жазбаша ұсыныстар алуға мүмкіндік беретін Expert Review деп аталатын мүмкіндікті жіберді, ал The Verge және басқа да басылымдардың тілшілері бұл сарапшылар бізді де қосқанын анықтады. Оған мені де кіргізді.
Ешкім бұрын-соңды біздің атымызды осылай пайдалануға рұқсат сұраған емес, және көптеген тілшілер бұған наразы болды - дарынды журналист Джулия Ангвин ренжігені сонша, бұл туралы сотқа топтық шағым түсірді. Superhuman бұған алдымен электрондық поштаға негізделген бас тартуды ұсынып, содан кейін мүмкіндікті толығымен жою арқылы жауап берді. Шишир кешірім сұрады, сіз оның кешірім сұрағанын қайта естисіз.
Осының бәрінде мен Шишир әлі де декодерді көрсетіп, жазады ма деп ойладым, өйткені шешім қабылдау, AI және платформалар туралы сұрақтарым кенеттен бұрынғыдан әлдеқайда қиын болып көрінді. Оның несиесі үшін ол мұны істеді және ол оны тоқтатты. Бұл әңгіме кейде шиеленісіп кетті және біз экстрактивті AI адамдарға қалай әсер ететіні туралы келіспейтініміз анық. Бірақ мен мұны бұдан былай ұзартпаймын.
Жарайды: Шишир Мехротра, Superhuman бас директоры. Мінеки біз.
Бұл сұхбат ұзақ және анық болу үшін жеңіл өңделген.
Шишир Мехротра, сіз Superhuman компаниясының бас директорысыз. Декодерге қош келдіңіз.
Мені қабылдағаныңызға рахмет.
Сіздің осында екеніңізге қуаныштымын. Мен сіздің осында екеніңізге таң қалдым. Менің ойымша, сіз кейбір сұрақтардың не болатынын білесіз, бірақ мен оны орындағаныңызға өте қуаныштымын. Менде AI туралы көптеген сұрақтар бар, адамдардың AI-ға деген көзқарасы, содан кейін сіз Grammarly бағдарламасында іске қосқан функцияңыз, ол сіздің өнімдеріңіздің бірі болып табылады, бұл адамдарға AI туралы көптеген сезімдерді тудырды. Сондықтан біз оған кіреміз.
Басынан бастайық. Superhuman Grammarly және Coda компанияларының иесі. Сізде көптеген компаниялар бар. Superhuman құрылымын және сіздің барлық өнімдеріңізді жылдам сипаттаңыз.
Superhuman - бұл AI өнімділігі жиынтығы. Біз AI-ны адамдар жұмыс істейтін жерге әкелеміз. Өткен жылдың соңында біз корпоративті ұйымның атауын Grammarly-ден Superhuman-ға өзгерттік. Біз мұны істедік, өйткені біздің жұмысымыздың ауқымы біршама кеңейді. Сонымен, барлығының сүйікті жазу көмекшісі болып табылатын Grammarly-ге қоса, бізде Coda деп аталатын құжат кеңістігі және Mail деп аталатын өте танымал электрондық пошта клиенті бар.
Біз Superhuman Go деп аталатын жаңа өнімді шығардық. Go - қай жерде жұмыс жасасаңыз да, сізге проактивті және жеке AI көмек желісін әкелетін платформа. Осылайша, Grammarly-мен таныс адамдар үшін Go туралы негізгі идеяны қабылдау және кез келген адамға Grammarly сияқты жұмыс істейтін агенттер жазуға мүмкіндік беру туралы ойлауға болады. Сауда агенті, қолдау агенті және т.б. бәрі сіз жұмыс істейтін жерде сізбен жұмыс істеуге көмектеседі.
Негізгі идея - AI құралдарының көпшілігі мінез-құлықтың үлкен өзгеруін қажет етеді. Біз сіз жұмыс істейтін жерге AI әкелеміз. Біздің өнімдерімізде біз күн сайын миллионға жуық түрлі қолданбалар мен агенттерді көреміз. Жасанды интеллект туралы ойланудың қажеті жоқ, сондықтан біз AI-ны сіздің тәжірибеңізге үздіксіз араластырамыз.
Бұл біз жылдар бойы Grammarly-мен айналысып келе жатқан нәрсе. Енді біз оны Superhuman Go көмегімен кез келген адам құра алатындай етіп ашып жатырмыз.
Сіз бен біз бірнеше апта бұрын сөйлестік, және біз сөйлескен нәрселердің бірі Грамматиканың көптеген адамдар үшін пернетақта ретінде көрсетілгені болды. Ол телефоныңызда және құжаттарыңызда көрсетіледі. Сіз Google Docs сияқты нәрселермен қалай жұмыс істеуге болатынын анықтауға көп уақыт жұмсайсыз.
Бұл өнімдердің барлығы AI-ны сіз сипаттағандай біріктіреді. Менің ойымша, сіз AI-ны енгізу нүктесінің қасына, курсордың дәл қасына қойдыңыз. Сіз үшін үлкен айырмашылық неде?
Біріншіден, менің ойымша, олардың өте азы мұны өте жақсы жасайды. Біраз жасайды. Бірақ мен айтқанымдай, біз күніне миллиондаған бірегей қолданбаларды көреміз.Грамматика туралы ойлаудың жолы - бұл сіздің барлық жерде тұратын көмекшіңіз. Сіз веб қолданбасында болуыңыз мүмкін. Бұл Gmail болуы мүмкін, бұл Google Docs болуы мүмкін, бұл Coda болуы мүмкін, бұл Notion болуы мүмкін.
Сіз жұмыс үстелі қолданбасында болуыңыз мүмкін. Бұл Apple Notes болуы мүмкін, бұл Slack болуы мүмкін, бұл сіз қолданатын кез келген қолданба болуы мүмкін. Бұл кез келген мобильді қосымша болуы мүмкін. Бізде сол қолданбалардың әрқайсысы үшін не істеп жатқаныңызды бақылаудың, оған сізге және қолданбаға әсер етпейтіндей түсініктеме берудің және сіздің атыңыздан өзгертулер енгізудің дұрыс жолын анықтадық. Және мұны барлық жерде жасау - ұсыныс.
Құралдан құралға ауысқанда, олардың әрқайсысында AI әртүрлі түрлері бар. Олардың көпшілігінде бұл іс жүзінде жоқ. Мен айтқанымдай, біз күніне миллиондаған бірегей беттерді көреміз. Ал біріккен тәжірибе сияқты сезінбейтіндер. Сондықтан бізде күнделікті 40 миллионға жуық белсенді пайдаланушылар бар және олар бізді сол үшін пайдаланады.
Сіз жұмыс істейтін барлық орындарға қарап, сіздің құралыңыз барлық сол жерлерде кездесетін әртүрлі құралдарға қарағанда ақылдырақ болады деген уәде бар сияқты.
Иә, ақылды болу, әрине, оның бір бөлігі. Көптеген адамдар үшін бұл сіздің қасыңызда жұмыс істейтін виртуалды адам сияқты сезінетін бір таныс тәжірибе.
Бұл тәжірибенің бірізділігі ме, әлде жақсырақ және пайдалы нәтиже ме?
Бұл екеуі. Grammarly әрқашан бар екендігі өте маңызды және [ол] өте жоғары сапалы грамматикалық нәтижелер береді. Өнімді бөліктерге бөлгенде, біз: «Біз Grammarly платформасының қабатын аламыз және оны платформаға айналдырамыз» дедік. Міне, біз Go деп атаймыз. Бұл басқа адамдарға жоғары сапалы тәжірибені қамтамасыз ететін агенттер мен тәжірибелерді жасауға мүмкіндік беру туралы, біз олар үшін барлық жерде қолдануға болады.
Жарайды. Мен құралдарды сату не деп ойлайтыныңызды түсінгім келді. Менің ойымша, бұл менің келесі сұрақтар жинағы үшін өте маңызды.
Менің сұрағым келетін тағы бір нәрсе - мен бәріне қоятын сұрақ, бірақ менің ойымша, бұл жерде ставкалар біршама жоғары. Бұл шешімдер туралы. Сіз шешімдерді қалай қабылдайсыз? Сіздің шеңберіңіз қандай?
Қалай дұрыс шешім қабылдауға болатыны туралы бізде әртүрлі ойлар бар. Мен баяғыда «Меншікті сұрақтар» деп аталатын шығарма жаздым, ол тек дұрыс шешімді ғана емес, сонымен қатар дұрыс сұрақты қалай құруға болады? Біз қолданатын рәсімдерге келетін болсақ, ең канондық - бұл Dory және Pulse деп аталатын нәрсе, бұл шешім қабылдау процесінде топтық ойлаудан арылу үшін кері байланыс пен пікірлерді сұраудың тәсілі.
Бірақ Grammarly-де немесе бұрын Coda-да немесе мен YouTube-те немесе Google-де жұмыс істеген кезде, немесе т.
Мұның қайда бара жатқанын көруге болады. Мұны іс жүзінде қолданайық. Сіз Grammarly бағдарламасында мәтінді жақсарту бойынша ұсыныстарды жасайтын Expert Review деп аталатын мүмкіндікті іске қостыңыз. Ол сарапшылардың кеңестерін синтездеді. Бұл көптеген басқа есімдердің арасында менің атымды пайдаланды: журналистер Кейси Ньютон мен Джули Ангвин, сіз төмен қарай жүре аласыз; Қоңырау ілмектері сонда болды, бұл өзінше көңілді.
Бұл әрекетті орындау үшін біздің атымызды пайдалануға рұқсатыңыз жоқ. Сізде оның қандай да бір түрде ресми екенін көрсететін аттың жанында кішкентай құсбелгілер болды. Адамдарға бұл ұнамады, маған бұл ұнамады, ал сіз функцияны алып тастадыңыз. Бұл мүмкіндікті сізде рұқсат етілмеген атаулармен іске қосу туралы шешім және мүмкіндікті іске қосу туралы шешім туралы айтып беріңіз.
Мен бұл туралы біраз сөйлесеміз деп күткенмін, сондықтан менде бұл туралы әртүрлі ойлар бар.
Біріншіден, мен бүгінгі күні сарапшылар мен идея генераторлары үшін қаншалықты қиын дүние екенін түсінемін және құрметтеймін. Мен сіз сияқты адамдарға, сіз айтқан адамдар сияқты адамдарға серіктес болу арқылы ұзақ мансап жасадым. Олар үшін аздық еткенімізді сезіну мені қатты ауыртты. Және бұл үшін шынымен кешірім сұрағым келеді. Біздің ниетіміз бұл емес еді.
Сіз айтып отырған нақты функция туралы, мен бұл туралы көбірек айтатынымызға сенімдімін, бірақ жоғары деңгейлі көрініс беру үшін, менің ойымша, бұл мүмкіндік жақсы мүмкіндік емес еді. Бұл сарапшылар үшін жақсы емес, пайдаланушылар үшін жақсы болмады. Бұл жеткілікті түрде жерленген қасиет болды. Оның қолданылуы өте аз болды. Сіз бұл туралы өткен аптада айтып, айттыңыз. Кез келген адамға оны табу үшін бірнеше ай қажет болды. Барлығыбұл шынымен маңызды емес. Біз көп нәрсені жасай аламыз, әлдеқайда жақсырақ. Біз қолымыздан келеді деп сенемін және біз одан да жақсы жұмыс жасаймыз.
Біз оны тез өлтіруді шештік. Атап айтқанда, сот процесі болмай тұрып кері байланыс болған кезде біз оны өлтіруді шештік. Бұл жай ғана жақсы қасиет емес еді. Ол біздің стратегиямызға сәйкес келмеді. Біз одан кейін барғымыз келген жол емес еді. Біз сарапшылардың біздің платформаға қалай қатысуы керек деп ойлайтынымызды жақсырақ түсінеміз, мен бұған қатты қуанамын.
Superhuman-да қанша адам жұмыс істейді?
1500-ге жуық.
1500 адамның ішінде қанша адам осы мүмкіндікті іске қосуды шешті?
Бұл шағын команда болды. Бұл өнім менеджері және бірнеше инженер болуы мүмкін.
Шешім қабылдау процесінде сіз дұрыс кері байланысты сұрағаныңызға көз жеткізудің жолын сипаттап, содан кейін топтық ойластырған кезде, адамдардың атын рұқсатсыз пайдалану оларды ашуландыратыны ешқашан болған емес пе?
Мүмкін мен артқа шегініп, бұл команданы не шабыттандырғаны және олардың не істеуге тырысқаны және не жетпей қалғаны туралы айту керек шығар. Олардың не істеуге тырысқанынан бастайық. Оларға біздің пайдаланушылар не қалайтыны және сарапшылардың қалаған нәрселері қатты әсер етті.
Пайдаланушылардан бастайық. Көптеген адамдар Грамматика туралы AI-ның соңғы милясы ретінде айтады. Олар: «Сіз жұмыс істейтін жерде сіздің грамматика мұғаліміңіздің қасында болғандай сезінесіз» дейді. Көптеген пайдаланушыларымыз: "Егер сіздің грамматика мұғаліміңіздің орнына менің өмірімдегі барлық адамдар менімен бірге болса, қандай сезімде болар едіңіз? Мен сату бөлімінің бастығының қасымда отырып, дұрыс емес өнімді ұсынғалы тұрғанымды айтқанын қалаймын. Қолдау көрсетуші менің жанымда отырып: "Мен бұл адамға соңғы аптада электрондық пошта арқылы үлкен мәселе жіберетінін және сізге үлкен қолдау көрсетуі керек екенін білуі керек екенін айтқанын қалаймын. олармен сөйлеспес бұрын”,— деді.
Бұл біз құрып жатқан нәрсенің негізгі этикасы. Ол Grammarly-ді қабылдап, оны кеңейтеді, осылайша осы көптеген басқа тәжірибелер сізбен бірге келеді. Кейбір адамдар үшін кері байланыс алғысы келетін адамдар - олар таңданатын адамдар. Бұл әлемдегі сарапшылар, олар үлгі алуға тырысатын және үлгі етуге тырысатын адамдар. Олар бүгінде LLM-мен мұны жасауға тырысады. Олар ChatGPT пен Клодқа барып: «Нилай менің жазуым туралы не ойлайды?» Деп сұрайды. Бұл пайдаланушы жасауға тырысатын нәрсеге шабыт болды.
Екінші жағынан, сарапшылардың әрекеті болды. Граммарлиді платформаға айналдырып, стратегиямызды осында қалыптастырған кезде, бұл туралы ойлаған кезде мен бірінші шақырған адамдар сарапшылар тобы болды. Мен кейбір танымал ютуберлермен сөйлестім, мен шынымен де көрнекті кітап авторымен сөйлестім, олардың барлығы маған бір нәрсені айтты. Бұл қазір сарапшылар үшін өте қиын дүние. Байланысты жүргізу өте қиын. Егер сіз кітап авторы болсаңыз, сіздің жанкүйерлеріңізге жетудің жолы - сіз көбірек кітаптар басып шығару. Олардың барлығы біздің не істеп жатқанымызды естіп, былай деді: "Балам, менің жанкүйерлеріммен үздіксіз байланыс орнату өте керемет болар еді. Олар менің кітабымды қойғанда не болады? Мен әлі де олармен бірге болып, жолда көмектесе аламын ба?" Әлем оларға қарсы ығысқан сияқты, AI шолулары олардың трафигінің көп бөлігін ұрлайды және т.б. Бұл одан кейін жүрудің әлдеқайда жақсы жолы сияқты.
Оның астарында шабыттандырған да сол еді. Топ пен мүмкіндік жеткізілмеді. Бұл оның екі жағына да жеткізілмеді, шын мәнінде. Біз пайдаланушы үшін өте оңтайлы емес және сарапшы үшін оңтайлы емес тәжірибеге қол жеткіздік. Негізгі себеп - сіз өткен аптада айтқан нәрсе, жарияланған жұмысыңыздың нәтижесі бойынша редактор ретінде не істейтініңізді анықтау өте қиын. AI үшін мұны істеу өте қиын. Бұл жақсы мүмкіндік болуы үшін бізге сіздің қатысуыңыз қажет.
Сондықтан олар өте жақсы емес нәрсені іске қосты деп ойлаймын. Мұны істеу және одан сабақ алу - процестің бір бөлігі, бірақ олар осылай істеп жатыр деп ойлады.
Әрине. Менің атымды пайдалану үшін маған қанша төлеу керек деп ойлайсыз?
Атрибуция туралы ойлану және еліктеу және т.б. туралы ойлау өте маңызды. Сарапшы ретінде сізде интернетте жасайтын саудаңыз бар. Идея мынада: мазмұнды шығарған кезде, мен оны қоса алғанда, адамдар оны пайдаланады деп үміттенесіз. Сіз басқа адамдардың мазмұнына сілтеме жасағыңыз келеді. Адамдардың сізге сілтеме жасағанын қалайсыз. Сіз шынымен,олар жасаған кезде сізге тән деп үміттенеді. Мазмұныңызды біреу пайдаланған кезде, олар сізге атрибут беруі керек пе? Әрине. Ал сізге атрибуциялау үшін атыңызды пайдалануыңыз керек.
Басқа жол бар, ол адамдар сізге ұқсай алуы керек пе? Және бұл мүлдем басқа стандарт деп ойлаймын. Ал біз сот ісін көрдік. Құрметпен, біз шағымдар негізсіз деп есептейміз. Функция еліктеу деген идея өте үлкен созылу. Әрбір ескертпе өте анық болды: «Бұл тек осы адам ғана емес, сонымен бірге осы нақты адамның нақты жұмысынан шабыттанды, оларға қайта оралу үшін нақты сілтеме бар». Бұл [еліктеу] сынақтан алыс.
Егер сіздің жұмысыңыз пайдаланылса, сізге қатысты болуы керек пе? Иә, керек деп ойлаймын. Бұл жақсы келісімшарт болар еді. Бұл әрқашан бола бермейді. Сіздің атрибутыңызды емес, жұмысыңызды пайдаланатын көптеген өнімдер бар. Біз атрибуттау өте маңызды деп ойладық. Менің ойымша, бұл көрініс болады.
Маған басқа жолмен айналдыруға рұқсат етіңіз -
Күте тұрыңыз, мен сізге бұл сұрақты қайтадан қоюға рұқсат етіңіз. Егер сіз менің ұқсастығымды қолдансаңыз, маған қанша төлеуіңіз керек?
Біз сізге ұқсамауымыз керек. Біз болмады. Егер біз сіздің жұмысыңызды пайдаланатын болсақ, қандай да бір LLM өнімі немесе кез келген өнім сіздің жұмысыңызды пайдаланса, олар оны сізге жатқызуы керек және олар сізге қайта сілтеме жасауы керек. Бұл интернет қалай жұмыс істейтіні туралы бізде бар адамдық келісім. Бұл шынымен маңызды. Бұл сіз LLM-ден іздейтін стандарт болуы керек.
Бұл жерде сіз қойып отырған мәселе мүлдем басқа, менің ойымша, бұл маңыздырақ. Мен бұл мүмкіндікті қорғау үшін мұнда емеспін. Бұл жақсы қасиет деп ойламаймын. Мен бұл сызыққа жақын болуға тырыспаймын. Менің басты мақсатымыз YouTube сияқты платформа құру деп ойлаймын. Сіз біздің платформада болуды таңдауыңыз керек. Сіз өзіңізге сенетін тәжірибені таңдап, құра білуіңіз керек. Сіз бизнес үлгісін таңдауыңыз керек. Бизнес үлгісін таңдағанда, оған қосқан үлестеріңіз үшін ақы алуыңыз керек. Бұл біз жұмыс істеп жатқан модель. Бұл шынымен де болғым келетін жер.
Сіз бұл функцияны қорғау үшін келмегеніңізді айтып жатқаныңызды естідім. Мен сізді бір секундқа хронологияға енгізгім келеді. Функция іске қосылды. Бұл шын. Біз оны тауып, ол туралы әңгіме жазғанша біраз уақыт өтті. Содан кейін ол жарылып кетті. Бұл туралы көптеген басқа адамдар әңгімелер жазды.
Сіздің теріс пиғылға алғашқы жауабыңыз адамдарға электрондық пошта арқылы бас тартуды ұсыну болды, егер мен өз атымның пайдаланылуын қаламасам, Superhuman-ға хат жазып, «Мені шығарып салыңызшы» деп айта аламын. Соттан кейін ғана функцияны тоқтаттыңыз.
Бұл дұрыс емес, Нилай. Алғашқы шағымдарды санаулы мамандардан естідік. Олар: «Мен мүмкіндіктен бас тартқым келеді» деді және біз олардың сұрағанын қарастырдық. Содан кейін біз отырдық және мүмкіндікке мұқият қарадық, шынымды айтсам, мен оған уақыт жұмсаған жоқпын. Мен келіп, оған қарадым және мен: «Бұл біз үшін стратегия емес» дедім.
Біз сот процесі болмай тұрып, оны алып тастайтынымызды хабарлаған едік. Оны алып тастауымыздың себебі - мұның бәрі стратегия, бұл біз істегіміз келетін нәрсе емес. Біз авторлармен жұмыс істегіміз келмейді. Біз сіз болғыңыз келетін платформаны жасап жатырмыз деп ойлаймыз. Біз жұмысыңызды қалай қабылдауға және оның барлық жерде адамдар үшін қолжетімді екеніне көз жеткізуге болатын шешімнің бір бөлігі боламыз деп үміттенеміз. Бұл сызыққа жақын болу біздің мақсатымыз емес еді. Бірақ бұл мүмкіндік жақсы болмады, сондықтан біз оны алып тастадық.
Сіз бұл сіз үшін стратегиядан тыс деп айтасыз. Мүмкіндік жіберілгені анық. Жеткізу кезінде оны стратегияға не айналдырды?
Сол кезде команда мұны істеп жатыр деп сенген. Олар пайдаланушыларды қарап шықты және олар пайдаланушының қажеттілігіне назар аударды, яғни: "Маған осы сәтте сарапшы пікір білдіргенін қалаймын. Менің сатушым маған кері байланыс бере алса. Менің ойымша, пайдаланушылардың мотивациясы өте жақсы және мен сарапшылар мен жасаушыларды мотивациялауға шақырамын деп ойлаймын. Бұл үлкен мүмкіндік.
Егер оның мәні $0 болса, олар неге оған сүйенеді?
Жоқ, бұл мән $0 емес екеніне көз жеткізу біздің міндетіміз болуы керек. Біз сені қалаймыз -
Сіз маған қанша төлеу керек деп ойлайсыз?
Түсінікті болу үшін, сіз жасаған кездеагент әкелу үшін жұмыс жасаңыз, оны жасаңыз, оны біздің платформаға қойыңыз, сонда сіз бұл үшін ақы алуыңыз керек. YouTube сияқты платформалар қалай жұмыс істейді.
Маған экономикамен танысыңыз. Егер сіз маған: «Жарайды, Нилай Пател сізге Grammarly ішінде кеңес бере алады» деп айтуға мүмкіндік беретін платформаны іске қоссаңыз, бұл платформаның экономикасы қандай? Мұны істеу үшін мен қанша жалақы аламын?
Біз қазір осы бизнес үлгісін жасап жатырмыз. Қазіргі уақытта біздің дүкенде бұл үшін төлем моделі бар, ол 70/30 табыс бөлінді, ол көптеген басқа өнімдерге өте ұқсас. Егер сіз осындай агент құрғыңыз келсе, оны бүгін жасай аласыз. Қазірдің өзінде бар бірқатар сарапшылар бар. Және бұл біздің стратегиямыздың негізгі бөлігі.
Егер сізде бұл жүйе бұрыннан болса, неге менің атымды тегін пайдаланатын басқа жүйені салу керек?
Ол кезде бізде жүйе болған жоқ. Және олар өте әртүрлі ерекшеліктер. Expert Review құрастырған топ, олар бұл қажеттілікті шешуге тырысты, олар жай ғана жіберіп алды.
Менің атымды қанша рет қолдандың?
Бұл заңды іс болғандықтан, мен мұндай нәрселердің егжей-тегжейлерін біле алмаймын, бірақ бұл негізінен барлығы үшін өте аз сан болды. Бұл мүмкіндік өте аз пайдаланылды.
Белгіленген атаулар тобы болды ма? Бұл жай эфирден атауларды таңдау болды ма? Бұл кездейсоқ атаулар галлюцинация болды ма?
Бұл танымал LLM-ден келді. Егер сіз Клодқа, Geminiге немесе ChatGPT-ке келіп: «Сіз бұл жазбаны алып, оған кері байланыс беруге пайдалы болатын адамдарға кеңес бере аласыз ба, олардың ең қызықты жұмыстарын алып, маған кері байланыс жасауға тырыссаңыз, дәл осындай тәжірибе аласыз.
Айтпақшы, бұл пайдаланушыларға жақсылық жасау өте қиын мүмкіндік және бұл қажеттілікті шынымен жеткізу үшін сіз сияқты адамдармен жұмыс істеу керек.
Сіз адамдардың атын қанша рет қолданғаныңызды бақылап көрдіңіз бе?
Біз әр түрлі әрекеттесулерді тіркедік, иә.
Менің атымның неше рет шыққаны немесе Кейси Ньютонның аты немесе сол сияқты бірдеңенің пайда болғаны туралы жазбаңыз бар ма?
Ол осылай белгіленбеген, бірақ біз оны сот ісі үшін шығаруымыз керек.
Журналист Джулия Ангвин сотқа топтық шағым түсірді. Көптеген жолдар бар. Сіз шағымдардың негізсіз екенін айттыңыз. Сіздің адвокаттарыңыз талаптардың негізсіз екеніне сендіру үшін не айтты?
Заңгерлер не деді? Бұл шын мәнінде өте түсінікті. Бұл қарапайым адам сынағы, бұл анық. Бұл жай кейіптеу емес. Функцияны қараған кезде, панельдің жоғарғы және төменгі жағындағы әрбір сілтеменің жанында ашу бар, олар осы адамдар шабыттандырғанын анық көрсетеді. Бұл адамдармен қарым-қатынасымыз жоқ екенін, бұл болашақ екенін анық көрсетеді. Айтпақшы, мен оны жақсы қасиет ретінде қорғауға тырыспаймын. Мен бұл жолда болғым келмейді.
Мүмкін мен бір секундқа артқа шегініп, мұндай жағдайды бірінші рет көріп тұрғаным емес деп айта аламын. Мен Google-да команданы басқардым — YouTube командасын басқардым. Мен YouTube сайтына кіргенде, сол кезде бізде Viacom-дан үлкен сот процесі болды, ол өте көп қаралды, біз жеңіп шықтық. Біз қысқаша шешімде жеңіске жеттік. Біз заң шеңберінен толық өттік. Бірақ бұл біз ұстанатын стандарт емес.
Біз бұған қарадық және заң мұны істеуді талап етпейтінін айттық, бірақ біз одан да көп нәрсені таңдадық. Мазмұн идентификаторын авторлар олардың атынан басқа адамдар жүктеп салған мазмұнды таба алатынына көз жеткізу әдісі ретінде іске қостық. Біз ашық шығармашылық бағдарламаны іске қостық, менің білуімше, ол әлі де ашық табыс үлесі бар жалғыз платформа болып табылады.
Менің ойымша, құқықтық стандарт қарауға болатын дұрыс стандарт емес. Мен оған жақындауға тырыспаймын. Біз одан төмен өтпегеніміз маған анық, бірақ бұл маңызды емес. Біз бұл стандартқа жақындауға тырыспаймыз. Бізге жұмыс істеу үшін жасаушылар керек. Платформаның жұмыс істеуі үшін бізге олардың бизнес үлгілері қажет және бұл YouTube сайтында болған жағдайға өте ұқсас.
Менің YouTube туралы көп ойым бар. Мен сізден YouTube туралы сұрайын деп отырмын. Менде Viacom ісі туралы көп ой бар. Google және YouTube-те болған оқиғалардың көбісі интернет пен саясаттың негізі болып табылады, өйткені біз оны бүгін білеміз. Бұл AI арқасында өзгереді. Сондықтан мен сізден бұл туралы сұрағым келеді, өйткені менСіздің тарихыңыз адамдардың бүгінгі күні AI-ға деген көзқарасына көп жарық түсіреді деп ойлаймын.
Әрине.
Мен тек осы бір бұрылыста қалғым келеді. Сіз «өзін еліктеу» деп жатырсыз, бірақ бұл талап арыздағы талап емес. Шағымдағы талап - Нью-Йорк пен Калифорниядағы компанияларға адамдардың аты-жөні мен жеке басын олардың келісімінсіз коммерциялық мақсатта пайдалануға тыйым салатын заң. Сонымен, мұнда сіздің коммерциялық мақсатыңыз болды. Сіз бағдарламалық жасақтаманы сатып жатырсыз және атаулар біздің атымыздан шабыттанғандай пайда болды.
Мен бұл сотта жоқпын. Мен сабаққа жазылмадым. Сынып сертификатталмаған. Мен сені әлі сотқа берген жоқпын деп уәде беремін. Бірақ жолақ тікелей еліктеуден өте ерекшеленеді. Бұл ұқсастықты коммерциялық мақсатта пайдалану. Сіз мұны негізсіз деп айтасыз, мен сіздің бұл туралы нақты айтқаныңызды көрмедім.
Мен талап-арыз бен сот ісі үшін заңды дәлелдерді қалдыруым керек. Менің ойымша, бұл жұмыстардың жиынтығы кез келген басқа өнім жасай алатын жолақтан әлдеқайда жоғары болатын жеткілікті стандартты атрибуция болды, планетадағы әрбір LLM не істеп жатыр және т.б. Және бұл атау мен ұқсастықты дереккөзге жатқызудан басқаша қолдануға жақын болмады.
Сіз бұл мүмкіндіктің нашар екенін айттыңыз, сондықтан мен сізді бұл туралы тым көп балғаламаймын, бірақ мен өз атыммен жасалған өңдеуді оқып жатырмын, бұл жай ғана жаман. Мен бұл өңдеуді ешқашан бермес едім. Онда мен «бұл ұшырудың дәл қазір маңыздылығын көрсететін эмоционалды немесе ставкаға негізделген сөздерді қосу арқылы тақырыптың үлесін көтеруім керек» делінген. Мен 15 жылдан астам редактор болдым. Мен ешқашан мұндай ештеңе айтқан емеспін.
Сіз себебін анықтадыңыз. Сіз өзіңіздің өңдеу стиліңізді соңғы жұмыстан аша аласыз деген идея, менің ойымша, бұл мүмкін емес. Осы соңғы жұмыстан оралып, «Бұған дейін қандай редакциялау билеті болды?» деп айту өте қиын. Мұны жақсы істеу үшін сіз мұны істеуіңіз керек. Сіз отыруыңыз керек және: «Міне, мен бұл нәрселерді қалай өңдейтін едім» деп айту керек. Менің ойымша, сіз бұл қызметті көрсете аласыз және ол үшін ақы ала аласыз. Біз сіз мұны таңдаған платформалардың бірі боламыз деп үміттенеміз.
Сонымен, сізде бұл мүмкіндікте аттары қолданылғанының аннотацияланған тізімі жоқ, бірақ сізде бұл мүмкіндікті пайдаланатын әрбір адамның журналдары бар, бұл журналдарда атаулар бар деп есептейсіз және егер сіз ашсаңыз, оны қамтамасыз ете аласыз деп ойлайсыз.
Бізден сұралатынына сенімдімін. Иә.
Сіз бұл тізімді бере аласыз деп ойлайсыз ба?
Бізден сұралатынына сенімдімін. көреміз.
Бұл сот ісін айналып өтудің бір жолы: «Шындығында, біз Джулияның атын ол сұрағанға дейін ешқашан пайдаланбадық» деп айту арқылы мені таң қалдырады. OpenAI сияқты, Нью-Йорк Таймс сотына жауап бергенде: «Сіз бізді заңсыз деп айтқан нәрселерді жасауға арнайы шақырғанға дейін бұл ешқашан болған емес». Міне, сізде де солай. Сіз: «Шынында, сіз бізден сұрамайынша, біз сіздің атыңызды ешқашан жасаған емеспіз» деп айта аласыз. Бұл келді ме?
Біздің қорғауымызда мен қамтымайтын көптеген нәрселер бар, бірақ менің ойымша, бұл аргументтің негізі бұл болмайды. Дәлелдің негізі мынада: біз жасаған нәрсе - интернеттегі мазмұнды қалыпты атрибуция.
Мұны нақты сұрап отырған себебім: «Ей, біз сіздің атыңызды ешқашан пайдаланбадық» деген сөз сізді «Ей, бізде атрибуцияның құндылығы туралы әртүрлі сезімдер бар» дегеннен басқа жерге қояды. Бұл сұрақты мен сұрағандай қатал қойып отырған себебім, менің ойымша, қорғаныс адамдар өнімді пайдаланады ма, жоқ па, әлде атаулар пайда болды ма, жоқ па деп ойламаймын. Менің ойымша, бұл анық кесілген, екілік қосулы немесе өшірулі. «Сіздің атыңыз ешқашан көрсетілмеді, сіз бізді сотқа бере алмайсыз». Сіз қорғаныс: «Ей, атрибуция осылай жұмыс істеуі керек емес» деп айтасыз.
Сіз бұрын YouTube өнімінің бас директоры болдыңыз, ал YouTube авторлардың атрибуты жанжалдарымен анықталады. Жыл сайын реакциялық бейнелер туралы тағы бір жанжал туындайды. Жыл сайын авторлық құқықты пайдалану, Маркес Браунлиден AI жасаушы жасап, оның миллиондаған бейнелерін түсіріп, оның көзқарастарын ұрлауға бола ма, жоқ па деген тағы бір жанжал туындайды.Бұл YouTube авторларының экожүйесінің мәні.
Біз оқиғаны жазған кезде YouTube бұл мүмкіндікті қалай қабылдағанын білесіз бе? Олар мені AI ұқсастығын анықтау жүйесін ертерек қарауға шақырды, өйткені бұл олар үшін жақсы баспасөз болатынын білді. Егер сіз әлі де YouTube-ті басқарып отырсаңыз, мұндай мүмкіндіктің шығуына рұқсат берер ме едіңіз?
Сіз оны қалай сипаттағаныңыз қызықты. Біріншіден, сіз сипаттаған кейбір бейнелерді жанжалдар ретінде сипаттау - оны сипаттаудың өте қызықты тәсілі. Өйткені менің ойымша -
О, олар мүлдем жанжалдар.
Мен сіздің анықтамаңызды түсіндім. Олар сондай-ақ керемет танымал және мазмұнның бүкіл жанрының жасалуына әкелді. Ұқсастығын анықтау, мазмұн идентификаторы, олардың барлығы жасаушылар үшін керемет құралдар болды. Менің командам Content ID құралын сол идеямен құрастырды.
Егер біреу Маркес Браунлиге осылай жасаса және олар оның бейнелерін көшіріп алып, орналастырса, онда сіз бұл құралды пайдалана аласыз және ол оларға шағым түсіріп қана қоймай, сонымен бірге олардан ақша таба алады. Бұл YouTube үшін біз жасаған құрал және менің ойымша, ол өте танымал болды. Біз жанжал сияқты көрінген нәрсені алып, одан да асып түстік. Түсінікті болу үшін, бұл заң талап ететін нәрсе емес.
Жоқ, мен кейбір заңның нені талап ететінін түсінемін, бірақ Content ID пайдалану және авторлық құқықты бұзу туралы ескертулер беру, бұл мен бастан өткерген нәрсе, егер сіз автор ретінде басқа авторға қарсы авторлық құқықты бұзу туралы ескерту жасасаңыз, бұл ядролық қадам, бұл ауыр әлеуметтік және қауымдастық салдарымен бірге жүреді.
Түсінікті болу үшін, егер сіз Content ID пайдалансаңыз және оны монетизация үшін пайдалансаңыз, сіз ескертулер бермейсіз.
Дұрыс. Бірақ мен YouTube экономикасының ауқымы анықталғанын айтамын және көптеген жолдармен өнімдер атрибуция, төлем және монетизация мәселелеріне негізделген - көрулер мен ақша ағындары қайда.
Мазмұн идентификаторы тамаша жаңалық болып табылады, себебі ол адамдарға кейбір көріністерді алуға және дұрыс адамдарға ақы алуға мүмкіндік береді. YouTube музыкасыз болмайды. Музыка YouTube сайтында болса, баспагерлер ақы алады, себебі Content ID музыканы анықтап, оларға ақы ала алады. Мен мұны түсінемін. Бірақ бұл атрибуцияны бақылайтын және монетизацияны қамтамасыз ететін жүйе.
Мен жай ғана айтамын, мен YouTube ешқашан: «Біз Маркес Браунлиге Маркес Браунлиге төлемсіз бейнеңізді өңдеуге рұқсат береміз» деп айтқанын түсінбеймін. Бұл экожүйеде болмас еді.
Жоқ, сіз жай айттыңыз. YouTube: «Бұл орын алғанда, біз сізге оны табуға көмектесеміз» дейді, бірақ сіз біреуге мұны істеуге кедергі жасамайсыз. Бұл мүлдем басқа стандарт.
Бірақ сіз адамдардың жалақы алатынына көз жеткізесіз.
Сіз кейін көз жеткізесіз. Түсінікті болу үшін, авторлық құқық идеясы атау мен ұқсастық шағымынан өте ерекшеленеді. Егер мен: «Ей, маған Маркес Браунли өте ұнайды және ол не дейді деп ойлаймын» немесе «Нилай туралы әзіл айтып беруге рұқсат етіңіз» деген бейне құрастырсам, бұл мүлдем басқа стандарт. YouTube стандарты авторлық құқыққа қатысты болды және бұл заңның мүлдем басқа бөліктерімен реттелетін ережелер жиынтығы.
Бұл жағдайда сізде шағым бар, авторлық құқығыңызды қорғауға мүмкіндік беретін DMCA заңы бар. Бұл жерде біз айтып отырған нәрсе емес. Бірақ ұқсастық принципі мынада: екі жағдайда да заң бар, ал заң шығармашылық шеңберге сай келмейді. Менің ойымша, қауымдастықтың мақсаты, біз сияқты өнімдердің мақсаты, сіз сияқты адамдармен жұмыс істеу, заңды сынақ ретінде пайдалану емес. Мақсат - бұл біздің мүдделерімізді сәйкестендіру үшін, сіздің табысыңыз біздің жетістігіміз және бұл біздің мақсатымыз болуы керек.
Біз мұны істеуіміз керек пе? Жоқ. Бұл талап емес деп ойлаймын. Біз мұны таңдадық, өйткені бұл біздің тұтынушыларымыз үшін дұрыс өнімдерді құрудың ең жақсы жолы.
Мен бұрын авторлық құқық қорғаушысы болдым. Мен әлемдегі ең жақсы авторлық құқық қорғаушысы болмағанымды қуана мойындаймын. Мен адамдар авторлық құқықтар мен сауда белгілері, атаулар мен ұқсастық арасындағы айырмашылықты түсінбейтінін түсінемін. Мен AI бұл айырмашылықтарды бұрынғыдан да тезірек жояды деп айтамын. Еуропа елдері авторлық құқық туралы заңға ұқсастықты қосу үшін кеңейтуді ұсынып жатыр.
Мен бетімді авторлық құқықпен қорғай алуым керек, содан кейін мен қолданыстағы заңға сәйкес ене аламын дегенді білдіредіАмерика Құрама Штаттары Конгресі 2026 жылы ұқсастықты қорғауды кеңейту туралы резолюцияға қол жеткізе алады деп үміттенудің орнына режим. Бұл ұсынылып отырған нәрсе, себебі авторлық құқық туралы заң интернетте бар азды-көпті басым нормативтік база болып табылады.
Мен YouTube, Instagram және TikTok сияқты үлкен әлеуметтік платформаларды қараймын және олар осы жүйелердің барлығын авторлық құқық туралы заңға жауап беру үшін құрды, атап айтқанда авторлық құқық, авторлық құқық туралы заңмен қорғалуы мүмкін нәрселер, авторлық құқық туралы заң бойынша әртүрлі жолмен монетизациялануы мүмкін нәрселер. Біздің ұқсастықтарымыз олардың бірі емес. Біздің аты-жөніміз де, жүзіміз де солардың қатарында емес.
Иә.
Бұл сізге рұқсат етілген және сіз істеу керек нәрселер барған сайын әртүрлі болатын жер сияқты. Сіз мұны соңғы уақытта ең қатты бастан өткерген адамсыз. «Заңда не істеуім керек, не істеуім керек дегеннен басқа нәрсені білдіңіз бе, соны білуге қызық.
Заңдар бұған негіз таба ма, көреміз. Менің ойымша, бұл автор ретінде 22-ші оқиға. Авторлық құқық туралы заң жүздеген жылдар бойы әртүрлі нысандарда болды. Бұл музыкалық композицияның лицензиялануы сияқты басталды, Моцарт пен Бахтан басталды. Содан бері өсті. Әлемдегі барлық дерлік елдер өте ұқсас стандартқа жетті.
Жалпыға қолжетімді жұмысты алу мен оған сілтеме жасау және оны көшіру арасында өте жұқа сызық бар. Жұмысқа қатысты барлық сілтемелерді атаулар мен ұқсастықтарды пайдалану ретінде анықтау интернетті бұзады, бұл сіздің бизнесіңізді бұзады деген идея. Сіз маған сілтеме жасай алмайсыз. Өткен аптада шоуға қалай қатысып, мен туралы айттыңыз?
Түсінікті болу үшін — мен подкаст жасау туралы бейсболдың ішінде болғым келмейді, бірақ біз сізге шоуға келу үшін сыртқы түрге қол қоюды тапсырдық.
Шоуға келу үшін. Бірақ сіз мен туралы шоуға келмей тұрып айттыңыз. Әрине, сіз болуыңыз керек -
Сіз шоуға келмес бұрын біз сіз туралы сөйлескен едік, бірақ нағыз медиа компания болу үшін және түнде ұшпау үшін, содан кейін сіздің бетіңіздің сөйлейтін клиптерін пайдалану үшін біздің заңгерлерге босату керек. Егер сіз оған қол қоймасаңыз, олар маған шоуды пайдалануға рұқсат бермейді, өйткені олар сіздің ертең келуіңізден және «Мен сізге бетімді пайдалануға рұқсат бермедім» деп айтудан қорғалуы керек.
Жоқ, мен мұны түсінемін. Менің ойым бұдан кеңірек. Сіз көптеген адамдар туралы айтасыз және бұл дискурстың бір бөлігі. Бұл біздің жұмысымыздың бір бөлігі. Сіздің мақалаларыңыз адамдарға сілтеме жасайды, сіз оларға атрибут жасайсыз. Менің ойымша, бұл өте маңызды. Егер сіз бірдеңені атрибутикалау олардың аты мен ұқсастығын пайдалану сияқты сызық сызсаңыз, онда бұл сызу өте қиын.
Тағы да, бұл атрибут емес еді. Сіз жай ғана бірдеңе ойлап, менің атымды қойдыңыз. Мұнда атрибут жоқ. Бұл мен ешқашан айтқан нәрсе емес. Бұл мен ешқашан айтатын нәрсе емес. Менің жұмысыма негізделген бұлай бірдеңе айтамын деген ойға қалай жеткеніңізді білмеймін. Мұнда атрибуция жоқ. Менің атыммен бірге сізді осы нәтижеге жеткізетін жұмыс жоқ.
Қайталап айтайын: «Міне, белгілі бір адамның белгілі бір жұмысы арқылы жасалған ұсыныс» функциясы болды. Барлығы мына жерден жасалған ұсыныс екені анық көрсетілген:
Күте тұрыңыз, кешіріңіз. Сіз менің The Verge-тің бас редакторы және The Vergecast-тың бірлескен жүргізушісі ретіндегі рөлімде шұғыллықты білдіретін тартымды тақырыптарды жасаудың маңыздылығын атап өтемін деп ойлайсыз ба?
Мен мұның жаман қасиет екенін айттым. Бұл сіз сұрап отырған нәрсе емес.
Сіз маған атрибуция бар екенін айтып жатырсыз, мен тек атрибуцияның не екенін білгім келеді.
Қалғанын оқыңыз. Онда: «Сізден осы жұмыстың негізінде біз сұрадық...»
Жоқ. Онда жай ғана: "Бұл ұсыныс Нилай Пательдің The Vergecast шығармасынан алынған" деп жазылған. Мен сізге The Vergecast арнасында уәде беремін, мен бұл шоуды ұзақ уақыт бойы жүргіздім. Мен ешқашан: «Қандай эмоционалды немесе ставкаға негізделген сөздер бұл ұшырудың дәл қазір маңызды екенін баса көрсете алады?» Vergecast, ең алдымен, смарт сағаттар туралы тақырыптарды өңдеуге арналған шоу емес.
Түсінемін, иә.
Сондықтан мен сіздің А-дан В-ге қалай жеткеніңізді білмеймін, содан кейін неге бұл атрибуция деп ойлайтыныңызды білмеймін.
Барып оқу керек болсабіреудің жұмысы болса, оны желіге қойыңыз - сіз мұны үнемі шоуыңызда жасайсыз - және: «Мен бұл адамның жұмысын оқыдым, енді мен одан қорытынды жасадым» деп айтсаңыз, бұл атрибуциядан жасалған ұсыныс па, жоқ па, соны шешуіңіз керек. Мен сізге бұл сапасыз ұсыныс деп ойлаймын дедім. Мен оны қорғауға тырыспаймын. Менің ойымша, бұл туралы сөйлескіміз келмейді. Бірақ мәселе, сіз жұмысты жариялаған кезде, адамдар мен AI оны басқа ұсыныстар, басқа әсерлер жасау үшін пайдалана ала ма? Олар мүмкін, және сіз олардың оны сипаттағанын қалайсыз.
Бірақ бұл адам жасаған жұмыс емес. Мен жасаймын деп ойлаған нәрсені галлюцинациялау, содан кейін оны маған қатысты деп айту маған ешқандай пайда әкелмейді. Бұл басқа адамдарға бере алатын артықшылықтарымды азайтуы мүмкін. Бұл менің миымдағы ажырату. Неліктен бұл атрибуция екенін білмеймін.
Егер мен: «Мен Шиширмен сөйлестім және ол былай дейді» десем, бұл: «Мен оның барлық жұмысын оқып шықтым және Клодтың немесе ChatGPT-тің кез келген жылдам нұсқасынан бірдеңе жасауды сұрадым, мен оған оның атын қоямын» дегеннен мүлдем басқа. Онда мағыналы басқа нәрсе бар. Ал сіз мұны мойындауға дайын емес сияқтысыз.
Жоқ. Мен емес. Басқа біреудің жұмысына негізделген ұсыныс жасау ... адамның қарапайым тапсырмасын орындайтыны анық. Егер сіз өзіңіздің шоуыңызда басқа біреудің жұмысы негізінде ұсыныс жасасаңыз және сіз: «Мен бұл адамның жұмысын оқыдым және осыдан алған әсерім, менің ойымша, олардың айтқысы келгені осы», - деп айтсаңыз, соның негізінде тұтас шоу құра аласыз. Сондықтан сіз оны әрқашан дұрыс түсінбейсіз. Сіз әрқашан пікір білдіретін адамдар туралы дұрыс нәрсені айта бермейсіз.
Дұрыс. Бірақ мен бұл идеяны оларға жатқызбаймын. Бұл идея менікі екені анық.
Функция бұл жұмыстың негізінде осы мүмкіндікпен жасалған ұсыныс екендігі өте анық көрсетілген.
Сізге басқа сұрақ қояйын. Мен бұл туралы YouTube-тен бастап бүгінгі күнге дейін қызықтымын. Адамдардың AI-ға деген көзқарасы туралы NBC News сауалнамасы бар. Ал жауап жаман. Адамдар AI туралы жаман сезінеді. AI ICE-дің артында және Демократиялық партиядан сәл ғана жоғары. Бұл болу қиын. Бұл -20 қабылдау.
Менің ойымша, мұның себебі оның өте пайдалы және құндылығы жоқ. Мен мұны YouTube-пен салыстырар едім, оны көптеген адамдар өте экстрактивті деп ойлады. Сіз YouTube туралы, South Park YouTube сайтында рұқсатсыз кіруі мүмкін бе деген сұраққа қатысты авторлық құқықпен күрестіңіз және Viacom сізді сотқа бермек болды. Бұл оқиға қызықты болды, өйткені жұртшылық YouTube-тің жағында болды.
О, бұл қызықты естелік.
Мен бұл істі қарадым. Іс кезінде мен заң мектебінде авторлық құқықты зерттейтінмін. Адамдардың басым көпшілігі: "YouTube шынымен пайдалы. Біз оны жақсы көреміз. Ал бұл ірі Голливуд компаниялары сорақы" деп ойлады. Napster атыс болған кезде, жұртшылық рекордтық белгілер жағында болмады. Олар ірі компаниялардың жағында болған жоқ. Олар файлды ортақ пайдалану жағында болды. Өйткені коммуналдық қызмет экономикалық немесе әлеуметтік шығындарға қарамастан өте жоғары болды. Мен мұны әрі қарай жалғастыра алар едім. Сіз адамдарға Uber-тің еңбек шығындары туралы күні бойы айта аласыз және олар әлі де Uber-ті пайдаланады.
Дәл қазір әлеуметтік медиа платформаларының жасөспірімдердің денсаулығына зияны бар-жоғы, олардың балаларға зиян келтіретін ақауы бар өнімдер екендігі туралы сынақ жүріп жатыр. Біз сөйлеп тұрған кезде бұл сот процесі жалғасуда. Қазылар алқасы қазір құлдырап жатыр және адамдар әлі де сол платформаларды пайдаланады, өйткені оларға бәрібір.
Үлкен, ақымақ көліктердің экологиялық шығындары — адамдарға жүк көліктері қоршаған ортаны бұзатынын күні бойы айта аласыз, американдықтар әлі де жүк көліктерін сатып алады. Бұл біз жасайтын нәрсе. AI тек экстрактивтік ретінде қабылданады. Бұл ICE-ге қарағанда сүйікті емес. Бұл мен үшін ақылсыз. AI-ның өндіруші табиғаты бүкіл сала үшін проблема тудыратынын түсінесіз бе? Өйткені сіз дәл қазір осы даулардың бірінің ортасында отырсыз.
Менің ойымша, сіз адамдар неліктен AI-дан қорқатыны туралы өте кең сілтеме жасайсыз.
Менің ойымша, бұл тамаша тұтынушылық өнімдеролардың әлеуметтік шығындарын еңсеретін көп құндылықты қамтамасыз етеді.
Біріншісі, AI алдында көптеген қиындықтар бар. Мүмкіндік көп. Ол сіздің басқа сынақтарыңызға сәйкес келеді. Ол тарихтағы ең танымал өнімдердің кейбірін жасады. Сол өнімдердің кез келгенін суық, өлі қолдарынан алып тастауды қалайтын адамдар көп.
Менің ойымша, қазіргі уақытта AI-ның қиындығы - бұл адамдардың адамзаттың болашағы туралы сезімін, олардың жұмыс істеу қабілетін сынау. Бұл жерде шынымен де қиындықтар бар. Бұл жерде біз айтып отырған жол, менің ойымша, бұл сіз сауалнамада оқып жатқан нәрсе емес.
AI ICE-ден төмен сауалнама жүргізетін сауалнамада не оқисыз?
Адамдар өз жұмысынан қорқады.
Адамдар өз жұмысынан қорқады деп ойлайсыз ба?
Мен солай деп ойлаймын. Менің ойымша -
Сіз бұл экстракция екенін түсінесіз бе? Сіз Интернеттегі барлық жұмыстың жалпы сомасын алдыңыз, енді сіз оны адамдарды және олардың жұмысын ешқандай экономикалық өтеусіз ауыстыру үшін пайдаланасыз.
Бұл, әрине, адамдардың жұмысын ауыстырудың бір жолы. Менің ойымша, бұл көптеген адамдар өз жұмысын қалай алмастыра алады деп алаңдайды. Менің ойымша, олар бұл туралы қателеседі. Ол құратын көптеген жұмыс орындарын алмастырады деп ойламаймын. Мұның себептерінің бірі - AI туралы ойлау моделіміз оны адамдарға жеткізу және олардың жұмысын кеңейту болып табылады. Біз оны суперадам болуға көмектесетін өнім деп атағымыз келеді. Сондықтан олар бұл туралы қателеседі деп ойлаймын.
Бірақ егер сіз менен сауалнамалардың неге соншалықты төмен екенін сұрасаңыз, бұл копирайтер: «Мүмкін, маған енді бұл қажет емес шығар» деп ойлайды. Бұл сатушы немесе «Мен агент менің жұмысымды орындай ала ма деп ойлаймын» деп айтатын қолдаушы. Менің ойымша, оның есімге және ұқсастыққа қатысы бар деген идея өте үлкен созылу.
Сіз көптеген адамдар өз жұмысын иемденгеніңіз үшін сізге ашуланған даудың ортасында отырсыз. Егер сіз жарнамалық агенттікте копирайтер болсаңыз - мен агенттіктердегі көптеген копирайтерлерді білемін - олар: «Сен менің барлық жұмысымды алдың» дейді. Сен емес. «AI компаниялары менің барлық жұмысымды оқуға жұмсады, енді олар мені алмастырады және ешкімге жалақы төленбейді». Голливуд негізінен «бұл үшін бізге ешкім төлемейді» деген сияқты. Tumblr-де жазатындар: "Енді OpenAI адамдарға порно фанфик түсірмекші. Бұл біздің жұмысымыз еді. Неге бізге ақша бермедің?"
Сіз мүлде дұрыссыз. Қазір авторлардың алдында өте қиын жол тұр. Менің ойымша, бұл тек осы мүмкіндіктен немесе соңғы жетілдірілген AI-ден туындады деп ойламаймын. Оларды әртүрлі себептермен қиын болашақ күтіп тұр. Бірақ сіз айтып отырған сауалнама кең халықты қамтиды, ал қалың халық жасаушылар емес. Қалың халықтың жұмысы бар, олар қол жетімді емес деп қорқады. Олар жүк көлігінің жүргізушісі болсын, қолдау көрсететін адам болсын, олар қорқады.
Мен жасаушылардың AI-мен проблемасы бар екенін азайтпаймын. Мен жай ғана айта кетейін, AI-ның кең әсері, бізде бар мәселе, бүкіл индустрия адамдарға мұндай технология неге көмектесетінін және олардың жұмысын алып тастауға кедергі келтірмейтінін түсінуге көмектесу үшін шынымен нашар жұмыс жасады. Ал адамдардың көпшілігі тек жасаушы емес.
Мен сіздің авторлар туралы айтқаныңызға қарсы емеспін. Мен жай ғана айтамын, адамдардың көпшілігі бұған алаңдамайды, өйткені бұл олардың жұмысы емес. Бұл олар жеке қорқатын нәрсе емес.
Жоқ, не айтып тұрғаныңызды түсінемін. Мен әрбір дерлік негізгі технологиялық ауысымның қандай да бір жолмен өндіруші болғанын атап өткім келеді. Google әлемдегі барлық кітаптарды рұқсатсыз көшірді, содан кейін бізде Google Books ісі болды және Google бұл істі жеңуі керек еді. Және олар жасады. Олар мұны істей алды.
Google YouTube-пен Viacom ісін жеңуі керек болды. Google Perfect 10-ға қарсы Google Images ісін жеңіп шығуы керек еді, ол барлық уақыттағы ең аз жанашыр шағымданушы болуы мүмкін, себебі бұл порнокомпания болды және Google жұмсақ порноның Google Image нобайларын жасады. Google бұл жағдайда жеңетіні анық еді, бірақ олар әлі де жеңуі керек едііс.
Осы заттардың барлығы әлі күнге дейін бұрыннан келе жатқан тәсілдермен өте қарқынды деңгейде сотталды, және біз сотқа: «Ей, сіз жай ғана менің бетімді фейк жасап, оны Alibaba-да құлаққаптарды сату үшін пайдалана аласыз» деп соттауға уақыт жұмсап жатқан сияқты емеспіз. Сіз жай ғана компанияны ашып: «Ал, бұл атрибуция, сондықтан мен бұл өңдеулер деп айту үшін өнімімдегі танымал адамдардың атын ғана қолданамын» деп айта аласыз.
Бұл жерде маған өте тікелей болып көрінетін сілтеме бар, мүмкін, автор ретінде, бірақ мен мұнда өте өндіруші шығындар бар және тұтынушылық жеңілдіктер анық емес деп айтатындардың бәріне ұсынар едім.
Кейбір жағынан маған YouTube ұқсастығы ұнайды. Бұл жақсы аналогия. Мен біздің командамен неге заңды стандарт ең төменгі стандарт болмауы керектігі туралы сөйлескенде, біз қол жеткізуге тырысамыз. Сондай-ақ мен сізге Superhuman-да не істеп жатқанымызды айтайын, мен бұл сызыққа өте жақын боламын деп ойламаймын. Бұл желіге өте жақын басқа да өнімдер бар. Біздің негізгі стратегиямыз сіз қатысуға немесе қатыспауға болатын платформаны құру болып табылады. Бұл біз үшін жақсы сызық болады деп ойламаймын. Мен бұл жағдайда біз нашар функцияны құрастырдық. Оны пайдаланушылар да, сарапшылар да жақсы қабылдаған жоқ. Маған бұл ұнамайды. Мен оны сол себепті өлтірдім, бірақ мен мұнда отырамын деп ойламаймын ...
YouTube ұқсастығы: дұрыс айтасыз. YouTube бар болуы үшін Viacom ісі сотқа берілуі керек еді. Егер ол басқа жолмен сотталса, YouTube болмас еді. Шындығында, интернеттің көпшілігі жоқ еді. Осылайша сотқа түсті деген идея бәрі үшін жеңіс болды. Бұл қоғамның жеңісі болды. Менің ойымша, бұл YouTube үшін жеңіс болды. Мен бұл жерде біздің жағдайымыз болады деп күтпеймін. Бұл мен жақын болатын сызық емес.
AI компанияларына қарсы көптеген авторлық құқық істері бар. Менің Vox Media компаниямыз Google-ді жарнамалық технологияға байланысты сотқа бергенін ашу керек сияқты. Оның AI немесе авторлық құқыққа ешқандай қатысы жоқ. Мен оны ашуым керек сияқты, өйткені мен оны әр уақытта ашамын. Vox Media AI зертханаларының бірі Cohere компаниясын авторлық құқықты бұзғаны үшін сотқа берді. New York Times OpenAI-ді сотқа берді.
Бұл авторлық құқық туралы істердің миллионы айналады. Күн сайын көбірек. Олардың бірі басқа жолмен жүруі мүмкін, ал бұл сала бетпе-бет келуі мүмкін. Үлкен AI зертханаларының бірі авторлық құқық ісін жоғалтса не болады деп ойлайсыз?
Сіз мені осы саланы бақылайтын адам ретінде сұрайсыз ба немесе менің суперадам рөлімді сұрайсыз ба?
Екеуі де.
Менің суперадам рөлім қарапайым. Модельдер не істесе де, біз оны қолданамыз. Сонымен, егер модельдер бұл мінез-құлықты шектеуді қажет етсе, онда бұл солай. Біз модельдердің үстіне отырамыз. Мен бұл істердің ортасында біз боламыз деп ойламаймын. Егер мен салалық тұрғыдан қарасам, бұл екі бағытта да өте қиын жағдай деп ойлаймын. Мен екі жаққа да шынайы жанашырлықпен қараймын.
Авторлық құқық туралы заң, сіз айтқандай, интернеттің жұмыс істеуіне мүмкіндік беретін нәрсе және заңның сызықты қалай сызатынына бәрі бірдей риза емес. Сіз дұрыс айтасыз, YouTube бұл жолды Viacom корпусымен және т.б. жаңа жолмен сынады. OpenAI, Клод және Gemini не істеп жатқаны оны жаңа жолмен сынайды. Олар бұл үшін жақсы жол табады деп үміттенемін. Мен бұл жерде боламыз деп ойламаймын. Біз бұл сот процестерінің ортасында немесе бұл сызықтың қайда екенін анықтайтындар болмаймыз.
Токеннің қосымша құны күрт көтерілсе, өйткені кенеттен AI компаниялары төменгі ағындағы авторлық құқық иелеріне жаппай лицензиялық алымдарды төлеуге мәжбүр болса, сіздің бизнесіңізбен не болады?
Менің ойымша, бұл біз үшін маңызды емес, өйткені бәрі біздің астымыздағы модельдерде болады. Бұл біздің жеке тұлға ретінде біз үшін маңызды емес. Бұл мен үшін азамат ретінде маңызды. Менің ойымша, бұл өте маңызды. Бірақ мен біз үшін адамдар Superhuman негізінде құруға тырысатын негізгі агенттердің бұған еш қатысы жоқ екенін есіме түсіремін. Сараптамалық іс - бұл бір іс.
Адамдар біздің өніммен айналысатын нәрсе - олар барады және өздерінің сату әдістемесін қабылдап, оны сатушылар пайдалана алатын агентке айналдырады. Олар қолдау құралдарын алып жатыр. Олар күнтізбелерін алып, сіз электрондық хат жазып жатқанда: «Мен ертең кешкі сағат 18:00-де кездесе аламын, сол кезде менің шынымен бос екенімді тексеріңіз» деп айтып жатқаныңызға көз жеткізуде.Жоғарыда айтқанымдай, бұл біздің бизнесіміздің ортақ бөлігі емес.
Жоқ, мен сараптамалық шолу бөлімін айтпаймын. Мен сіз шақыратын үлгі контекстінде жүктелетін «Менің барлық сатылым әдебиеттерімді алыңыз, күнтізбемді алыңыз» деп сипаттап жатырсыз деп айтамын, солай емес пе?
Иә.
Егер AI компаниялары кенеттен авторлық құқықты лицензиялау үшін алымдарды төлеуге мәжбүр болғандықтан, осы модельдегі токеннің қосымша құны көтерілсе, сіздің бизнесіңіз не болады?
Егер мен сол компаниялардың орнында болсам, бұл шығындарды барлық пайдаланушыларға тарату емес еді. Мен пайдаланушылардан сол ақпаратты пайдаланғаны үшін жазылым алатын едім. Бұл олардың бизнес үлгісі болуы керек.
Менің жеке көзқарасым бойынша, мен ChatGPT немесе Gemini немесе Claude сайтына келіп, Нью-Йорк Таймстың жазылушысы екенімді дәлелдеуім керек, содан кейін ол маған The New York Times газетіне жауап беруі керек. Ал The New York Times: «Мазмұным тек жазылушыларым үшін пайдаланылғанын қалаймын ба, жоқ па?» деген таңдау жасауы керек. Бірақ мен сол компаниялардың орнында болсам, мен уәде берер едім.
Бұл жағдайлардың барлығы әртүрлі. Сондықтан мен мұнда жалпылама айтқым келеді және сіз жалпылау үшін маған шабуыл жасай аласыз, бұл жақсы. Бірақ жалпы алғанда, олар екі жолға бөлінеді. Сіз сипаттап отырған бір нәрсе бар, ол мен жасаған мазмұнды түкірдіңіз, мысалы, Суно Бейонсе әнін шығара алады, ол авторлық құқықты бұзады. Мен әлдеқайда маңызды деп санайтын басқа жағдайлар жиынтығы –
Ол енгізуде.
Бұл енгізуде, ол жаттығуда. Және: «Сіз менің барлық материалымды рұқсатсыз жұтып қойдыңыз» деді. Бұл да авторлық құқықты бұзу. Егер бұл үлгі компаниялар үшін дұрыс емес болса, олардың шығындар құрылымы ретроспективті түрде өзгереді. Сіз сипаттайтын жүйелерді құра алмайсыз, себебі модельдің өзі –
Жоқ, мен жауап бердім. Сонымен, авторлық құқық туралы заң оны қамтиды. Егер сіз басқа адамның жұмысымен қателесуі мүмкін нәрсені шығарсаңыз, олар шағым бере алады, олар оны алып тастауы мүмкін; егер олар оны қалдыруды таңдаса, сіз кірісті бөлу туралы келісімді немесе онымен не істегіңіз келсе, келіссөздер жүргізуді таңдай аласыз. Шығару өшірілді. Сіз айтқандай енгізу тазартылмаған және істер нақты түрде шешілмеген.
Мен айтып отырған мәселе, егер мен олардың орнында болсам, енгізу құнын алмаймын және оны барлық пайдаланушыларға таратпаймын. Мен үлгіні бөлетін едім. Егер бұл шынымен солай болса, мен: "Жақсы, сіз мазмұнды қаламайсыз. Мен модельдің тек New York Times жазылушыларына арналған нұсқасын жасап, олардан ақы аламын" деп айтар едім.
Сіздің нақты сұрағыңыз: «Бұл шығындар LLM-дің басқа пайдаланушыларына беріледі ме?» Дәл қазір болып жатқан нәрсе. Олар бұл мазмұн үшін төлейді. Ол бізге беріліп жатыр. Бізге маңызды ма? Ашығын айтқанда, бұл санаттағы инновациялардың қарқыны соншалықты жоғары, ол жерден алынатын пайда соншалықты жоғары, бұл жоғарыдағы пайдаланушылар үшін - немесе біз үшін, ChatGPT пайдаланушылары, Gemini пайдаланушылары және т.б. үшін маңызды емес. Бұл олардың өсуін мүлдем тоқтатқан жоқ. Бір күні бола ма? Мүмкін. Мен білмеймін.
Бірақ менің ойым осы дүниеде авторлық құқық өте айқын және заң оны өте жақсы қамтиды; енгізу авторлық құқығы соншалықты анық емес. Бұл жақсы себеппен анық емес. Егер сіз адам болсаңыз және сіз кітап оқып, содан кейін бірдеңе үйреніп, содан кейін сол нәрсе туралы сөйлессеңіз, не болуы керек? Және бұл соттарда жақсы тексерілмеген заңды сұрақ.
Сала бұл шығынды алып, оны барлық пайдаланушыларға жеткізеді деп ойламаймын, бірақ біз көреміз. Егер солай болса, онда ол болады және біз онымен күресуіміз керек. Барлығы болады.
Адамдардың көпшілігі бір кітапты оқу арқылы триллиондаған долларлық кәсіпорын құнын жасау үшін шексіз ауқымды жасай алмайды. Бұл айырмашылық. Осы масштабта бұл құнды алу үшін әдетте көптеген адамдар кітаптың көшірмелерін сатып алуы керек және экономика тарайды. Шкаласы - бұл айырмашылық.
Мен бұл өте әділ дәлел, бұл кітапты оқитын адаммен бірдей емес екенін түсінемін. Әлбетте, бұл жерде алынған сызық. Мен бұл жағдай қалай аяқталса да, сарапшылар үшін дұрыс жауап - жаңа бизнес үлгісінің уақыты келді деп болжаймын. Менің ойымша, сіз дәл дұрыс жерге кіресіз жәнеСіз Gemini арқылы келген әрбір сұрау үшін тиын аласыз. Бұл, әрине, бір жол.
Мен барып, адамдармен Superhuman-да не істеп жатқанымыз туралы сөйлескенімде, олар маған былай деді: "Шындығында, менің жұмысым қолданыла бастағанда, мен тиынға балық аулағым келмейді. Мен адамдармен байланыс орнатқым келеді. Мен оны жариялау және әрбір пайдаланудың бір бөлігін төлеу үшін мазмұн құрған жоқпын. Мен шынымен де адамдармен байланыстыратын өнімді жасағым келеді." YouTube мұны істеудің тамаша әдісін ұсынады. Біз істеп жатқан нәрсе - Superhuman мұны істеудің тамаша әдісін ұсынуы керек.
Осы туралы арнайы сұрайын. Мен оңтүстік-батыс жағында болған жоқпын. Кішкентай баламыз бар. Мен биыл саяхаттаған жоқпын, бірақ Instagram-ды көрдім. Мен Instagram және TikTok сиқыры арқылы оңтүстіктен оңтүстік-батысқа қарай өттім.
Сізде оңтүстік-батыс жағында люкс болды. Кейбір бейнелерді қарап шықтым. Инстаграмдағы карусельдердің біріндегі жазу... Мен сізге жазуды оқимын. Бұл оңтүстіктен оңтүстік-батысқа қарай орналасқан Superhuman люксінен. Онда көп әңгіме болды. Әңгімелесулердің қысқаша мазмұны: "AI адам шығармашылығын, эмпатиясын немесе эмоциясын алмастыра алмайды. Ол біздің барлық жұмысымызды алмайды, бірақ ол біздің жұмыс істеу әдісін өзгертеді. Ал AI дәуірінде талғам мен пайымдау бұрынғыдан да құнды." Қандай көрсеткіш бойынша құнды? Бұл доллар ма?
Әрбір көрсеткіш бойынша құнды.
Атап айтқанда, доллар. Доллар мен ипотеканы төлеймін. Бұл доллар ма?
Кешіріңіз, мен сұрақты түсінбедім.
Егер менің «дәмім мен пайымдауым бұрынғыдан да құндырақ» болса, бірақ ол шексіз қайталанатын болса және сіз маған жаңа бизнес-модель қажет деп ойласаңыз немесе әрбір авторға жаңа бизнес үлгісі қажет немесе–
Кешіріңіз, сіз одан үлкен секіріс жасадыңыз.
Қалай көбірек доллар табуға болады? Егер менің «дәмім мен пайымдауым бұрынғыдан да құнды» болса, артық долларлар қайдан келеді?
Superhuman тақырыбына түсінікті болу үшін, біз өзіміздің барлық пайдаланушыларымызға өз жұмысын кеңейтуге мүмкіндік беретін құралдарды әкелу арқылы суперадам болуға көмектесе аламыз деп ойлаймыз. Адамдар туралы ойлаудың негізгі тәсілі - Grammarly сіздің жұмысыңызды сіз үшін жасамайды. Грамматика сізге жақсы жазушы болуға көмектеседі. Ал сіз әлі де эссеңізді жариялайсыз, мақалаңызды жариялайсыз. Сізді адамгершіліктен тыс адамға айналдыру біздің міндетіміз. Бұл біздің пайдаланушыларға берген уәдеміз. Бұл баннер туралы. Сіздің сұрағыңыз өте жақсы сұрақ.
Баннерде «дәм мен пайымдау бұрынғыдан да құнды» делінген. Мен сізден тек мәнді анықтауды және қандай мәннің жоғарылап, қандай мәннің төмендейтінін сұраймын.
Егер сіз Grammarly қолданбасын пайдаланып жатсаңыз және студент немесе сатушы болсаңыз, бұл сіздің талғамыңыз бен пайымдауыңыз ақыр соңында бағаланады. Біз сізге қателеспеуіңізге көмектесу үшін осындамыз. Біз сізге өзіңізді ең жақсы жолмен көрсетуіңізге көмектесу үшін осындамыз. Бұл баннер осы туралы.
Біздің өнімді пайдаланатын 40 миллион пайдаланушымыз бар. Олардың басым көпшілігі кәсіпқой салаларда жұмыс істейді, олар сатушылар, олар адамдарға қолдау көрсетеді, соған жүгінеді. Біз оларға: "Өнімдерді пайдаланған кезде жұмысыңызды жоғалтып аламын деп уайымдамаңыз, өйткені біз сізге көбірек масштабтауға көмектесу үшін осындамыз. Біз сізге жақсырақ нұсқа болуға көмектесу үшін осындамыз" деп айтуға тырысамыз. Бұл баннер осы туралы. Біздің уәдеміз осыған байланысты.
Саған да ұсынысымыз бар, Нилай, енді сол адамдардың барлығына көмекші бола аласың. Олардың көпшілігі сіздің көмегіңізді пайдалана алатынын білмейді, бірақ сіз олармен Grammarly сияқты қарым-қатынас жасай аласыз. Адамдар үнемі Грамматиканы бейнелейді: «Менің орта мектептегі ағылшын тілі мұғалімі мен жұмыс істейтін жерде менің қасымда отыруы мені жақсартады. Бұл менің сенімім мен пайымдауымды жарқыратады».
Мен сіздің агентіңізді өзіңіз үшін маңызды адамдар үшін алғым келеді. Сіз олардың жанында орналасқан агентті құра алуыңыз керек және сіз өзіңізді олардың редакторы сияқты сезіне аласыз. Енді оны жақсы тәжірибеге айналдыру үшін біраз жұмыс істеу керек. Сіз өзіңіздің өңдеу стиліңізді бұрын келтіргеніңіздей емес, жақсы нәтиже беретіндей құжаттауды анықтауыңыз керек. Бірақ егер сіз мұны істей алсаңыз, сіз бұл қарым-қатынасты құра білуіңіз керек. Сіз оны құрастыра білуіңіз керекҚалағаныңызша, сіз оны бақылауыңыз керек және сіз одан ақша таба білуіңіз керек.
Күте тұрыңыз. Сіз мұны істеуім керек деп отырғаныңызды түсінесіз, өйткені менің мансабымда осы уақытқа дейін жасаған жұмысымның барлығын AI компаниялары өтеусіз алған.
Мен бұл мәлімдеме жасаған жоқпын.
Не? Сіз маған сарапшы ретінде қандай да бір жаңа бизнес үлгісін ойлап табуым керек және сіздің құралыңызға өзімнің агентімді жүктеп алып, содан кейін Grammarly-ді көптеген адамдар пайдаланса да, табыстың 70/30 бөлінуін алу үшін оны жарнамалауым керек деп жатырсыз, өйткені менің нақты жұмыс көлемім нөлге дейін төмендеді. Бұл өте қиын сату.
Мен мұнда автор экономикасында не өзгергені туралы әрбір сұраққа қалай жауап беру керектігін айту үшін келген жоқпын. Қарап отырсақ, жаратушы болудың жолы қиындап кетті. Менің ойымша, бұл подкаст YouTube және Spotify-да аяқталады және т.б. Жасаушы болудың оңайырақ болатын жолдары бар. YouTube пайда болған кезде бізге бірдей нәрселерді айтып, олар: "Біз түсінбейміз. Біздің бизнес-модельіміз бұрмаланған. Неліктен YouTube-те жұмыс істеуіміз керек?"
Осылай қарап, оны ауыстыру ретінде қарастырғандар болашаққа ілгері жылжымай қалды. Сіз жасағаныңыз анық. Сіз осы платформалардың барлығында шоу жүргізіп, оны бизнеске айналдырудың жолын таптыңыз. Сіз бұл мүмкіндікті көрдіңіз және сіз жасай алатын нәрсені кеңейттіңіз.
Егер біз AI-ға осы тұрғыдан қарасақ және: «AI осында және ол менің қазіргі тәжірибелеріме трафикті қажет ететін адамдардың санын азайтады» десек, бұл оған қараудың бір жолы. Оған осылай қарайтын кейбір жасаушылар болады. Мен бұған басқа жолмен қарап, былай деп үміттенемін: «Бұл платформалардың кейбірі сізге қатысуға мүмкіндік береді, сізге тәжірибеңізді алуға және оны адамдарға бұрынғыдан басқа жолмен көмектесетіндей етіп көрсетуге мүмкіндік береді».
Бұл жарқын болашақ. Мен шынымен сізге керек немесе қажет емес деп айтуға тырыспаймын. Бұл кеңейту мүмкіндігі. Мен басқа компанияның мазмұнмен не істеп жатқанын қорғау үшін бұл жерде емеспін. Онда не болып жатыр, сол жерде болып жатыр. Мен авторлар бұл қысымды сезінеді деп айтқым келеді. Біз оны танимыз. Мүмкіндік бар. Маған бір автор олардың соңғы жылы Google-дан трафигі 50 пайызға төмендегенін айтты. Олар AI шолулары және т.б. арқылы трафик 50 пайызға төмендейтінін айтты. Олар кітап сатады.
Менің оларға деген реакциям: «Бұл шынымен жаман. Мен мұның неліктен жаман екенін түсінемін». Сондай-ақ мен оларға: "Егер сіз кітап авторы болсаңыз, адамдардың Google-да сіздің атыңызды іздеуін күту сіздің тәжірибеңізді монетизациялаудың ең аз жақсы жолы болуы керек. Енді сіз жасаған нәрсені қалай жақсы қабылдап, оны басқа жолмен құндылықты тудыратын жолмен адамдардың алдында қалай жеткізуге болатыны туралы сөйлесейік."
Мүмкін, біз мұны басқа жолмен жасай аламыз және оны басқа жолмен құндылықты тудыратын жолмен адамдар алдында аламыз. Мүмкін біз мұны сіз үшін қосымша жұмыс емес және сізге жаңа мүмкіндік түрін беретін жолмен жасай аламыз. Менің ойымша, біз сияқты платформалар бұл мүмкіндікті таңдаған адамдарға береді. Барлығы бірдей бола бермейді.
Мен сізге бағдарламалық жасақтама компаниясының бас директоры ретінде мұны айта аламын ба?
Әрине.
Бұл шекаралық модельдер, AI компаниялары және олардың әр санатқа үздіксіз кеңеюі туралы еститін дәлел. Содан кейін сіз SaaSpocalypse деп атай аласыз. Мен олардың токендерін тікелей сатып алып, Клодпен сөйлесе алатын болсам, олардан сатып алатын маржаны неге төлеймін? Неліктен мен төлеудің орнына Grammarly сияқты көрінетін нәрсені виб-кодтап, оны іске қоспасқа... не, сіз жылына $160 сияқтысыз? Бұл бағдарламалық жасақтама индустриясы үшін келе жатқан нәрсе. Сіз дәл осындай қысымды сезінесіз бе?
SaaSpocalypse айту оңай сөз емес. Бұл сәл артық. Мен сізге өз көзқарасымды беремін. Бағдарламалық қамтамасыз ету өте көп. Бағдарламалық жасақтаманы құру мүмкіндігі, әрине, әлдеқайда оңайырақ. Менің ойымша, адамдардың бағдарламалық жасақтаманы пайдалануды таңдауының себептері көбінесе оның жұмысты жақсы атқаратындығы және онымен байланысты желілік әсердің жиі болуы деп ойлаймын.
Мен сізге мысал келтіремін және мен тек тұтынушымен қарым-қатынасты басқаруға (CRM) назар аударамын. Адамдар SaaSpocalypse-ге қарайды, олар барып тырысадыSalesforce-ті бағалау және: "Неге біреу Salesforce үшін төлейді? Мен оның өз нұсқасын виб-кодтауға болатынмын" деп айту. Алдымен олар: «Неге біреуде CRM болуы керек?» Дейді. Егер оларға CRM қажет болса, неге олар Salesforce үшін төлейді?
Мен екі сұраққа жауап беремін. Неліктен CRM үшін төлеу керек? Бірлесіп жұмыс істейтін адамдар тобы болса, олардың бірге жұмыс істеуі үшін сізге бағдарламалық құрал қажет. Егер менде бір сатушы болса, мен барлық сатылымдарымды ойымда сақтай аламын. Егер менде 10 сатушы болса, мен оны электрондық кесте арқылы жасай аламын. Менде 100 болғанда, оларды біріктіретін бағдарламалық құрал қажет. Бұл бағдарламалық жасақтама бүгінде CRM бағдарламалық құралы деп аталады. Менің атымнан 1000 агент сататын болса, маған олардың бір-бірімен үйлестіру жолы қажет болады. Бұл басқаша болуы мүмкін, бірақ бұл маңызды болады деп ойлаймын. Неліктен бұл Salesforce сияқты өнімдер болады? Бұл Salesforce болатынын білмеймін, бірақ желілік әсерлердің күші әлдеқайда жоғары болады.
Сіз: «Бұл мен экожүйеге әртүрлі тәсілдермен қосылған өнімді таңдайтын өнімдер» деп айтасыз. Неліктен адамдар Грамматиканы қайта құру керек? Мен олардың тырысатынына сенімдімін. Менің үмітім - дәл осы сәтте біз сіз жұмыс істейтін жерде жұмыс істейтін барлық ең жақсы агенттерге арналған платформамыз және сіз олардың барлығын қайталаудың қажеті жоқ. Мен білетін адамдар болатынына сенімдімін, бірақ менің ойымша, көпшілігі жоқ. Бұл бағдарламалық жасақтама индустриясының алға жылжуы үшін маңызды ставка. Бағдарламалық жасақтамаға деген қажеттілік тек артады. Желілік әсерлердің маңыздылығы тек артады.
OpenAI, Anthropic немесе Google: "Жарайды, Grammarly өте пайдалы. Біз бірнеше секунд ішінде ұқсас құрал жасап, оны жөнелтіп, олардың өнімін өлтіре аламыз. Олар бәрібір біздің токендерді сатып алуда. Біз оларды оңай өлтіре аламыз" деп ойламайсыз.
Бұл құралды жасау мүмкіндігі бұрыннан бар. Егер бұл рас болса, біздің бизнесіміз өспейді. Бізде оны күнде 40 миллион адам пайдаланбас еді. Идея оңайырақ және оңайырақ. Иә, біз бір орында тұра алмаймыз. Егер біз бір орында тұрып, жаңашылдықты жалғастырмасақ, егер біз бұл желілік әсерді жасамасақ, адамдар үшін құндылық қосуды жалғастырмасақ, біз ұсталып қаламыз. Бұл әрқашан дұрыс.
Мен жай ғана үлкен нәрсемен аяқтағым келеді. Тағы да, сіз бұл платформаларды басқарғансыз. Сіз Spotify тақтасындасыз. Мен сіздердің мұндағы экономика және жұмыс қалай өндірілетіні және кімге кімнің ақы төлейтіні туралы ойлайтыныңызды білемін. Мен дәл қазір медиа пейзаждың пішініне, сіз интернет деп атауға болатын ақпараттық пейзажға қараймын. Мен: «Балам, бәрі ақырындап QVC-ге айналады» деймін. Бұл затты жасау күн сайын құнсыздануда. Зат жасайтын адам болу қиындап барады. Бұл соңғы сағатта бірнеше рет қайталаған нәрсе.
Соңында авторлар бірдеңе сатуға бет бұруы керек. Ағайынды Пол сізге бөтелкедегі суды сатуы керек. Мистер Бест сізге энергетикалық барларды сатуы керек. Біз жұмысты құнсыздандырғанымыз сонша, әлемдегі кез келген басқа саладан айырмашылығы, интернет-индустрия, ақпараттық экожүйе биттен атомға айналады. Бұл бизнес тарихында өте сирек.
Көптеген кәсіпорындар атомдардан биттерге айналады. Биттердің шеттері тарихи тұрғыдан алғанда, YouTube-тен басқа атомдардың шеттерінен әлдеқайда жақсырақ, тек әрбір ірі әртіс гастрольде мәңгі болуы керек, өйткені музыканы сатудан түсетін ақша өте төмен. AI мұны ауқымды түрде әкеледі. Сіз қысымды сезіне аласыз. Бұл әңгіменің бәрі сол қысым туралы болды.
Мүмкін, құқықтық доктриналар дәл сәйкес келмеуі мүмкін және мен тым көп жалпылау жасап жатқан шығармын және сіз маған қарсы болған сындарды естимін, бірақ мен осылай сезінемін. Осы платформалардың барлығы, сайып келгенде, сізге басқа нәрсе сатуға тырысатын біреуге айналады. AI мұны тек тездетеді. Мен сіз соңғы нүкте қайда деп ойлайсыз деп ойлаймын.
Бұл қызықты сипаттама. Мұнда көптеген бизнес үлгілері бар. Сіз атомдарға бит деп сипаттаған нәрсе, менің ойымша, оған қараудың бір жолы. Кейбір авторлар YouTube-тен түсетін жарнамадан түскен табыс жеткіліксіз деп есептейтініне сенімдімін. Бұл мүмкіндік болғандықтан, солай ма? Неге мүмкіндікті пайдаланбасқа? Менің ойымша, «міндетті» - бұл бір жолоны сипаттаңыз. «Жеткізу» оны сипаттаудың басқа жолы. Мен айтатын тағы бір нәрсе, мен атомдарға қарсы биттерді айту өте дәл деп ойламаймын. Бұл сатып алуларға қарағанда жазылымдарға қарағанда әлдеқайда көп жарнама. Менің ойымша, бұл таралу шын мәнінде бит пен атом бөлігі туралы емес. Бұл қосылым бөлігі туралы.
Көз алмасынан жасалған платформалар жиынтығы бар. Мен YouTube-те жасаған нәрсем негізінен көз алмасынан құрылған. Бүкіл тарихта жарнамаға жұмсалған шығындардың мөлшері әрқашан ЖІӨ-нің белгілі бір пайызын құраған. Ол ЖІӨ-нің 2%-дан 4%-ға дейін мәңгілікке жабылады. Бұл барлық көз алмалары арасында бөлінеді және бұл бір бизнес моделі. Иә, бұл үшін күресіп жатқан авторлардың саны соңғы екі онжылдықта әр платформада күрт азайып кетті. Бұдан шығатын нәрсе азырақ. Өнімді сату мүмкіндігі де бар. Өнімді сату мүмкіндігі уақыт сияқты ескі, ал оның ортасында байланыс орнату мүмкіндігі бар. Бұл өнімдер жазылымдармен көп жұмыс істейді.
Менің кейбір сүйікті авторларым туралы ойланатын болсақ, олардың көпшілігі 1000 жанкүйерлер теориясына жазылады: егер сіз 1000 адамға жылына 100 доллар төлеуге мүмкіндік алсаңыз, сізде кенеттен 100 000 долларлық бизнес пайда болады. "Мен бір жерге барып, біреу маған қарап тұрған сайын аздап ақша аламын. Немесе мен гамбургерімді немесе су бөтелкесін сатып алу үшін оларды шұңқырдың соңына дейін жеткізе аламын. Немесе ортасында мен адаммен жеткілікті терең байланыс орната аламын, олар маған айтарлықтай ақша төлеуге дайын және егер мен оларға көп ақша қажет болса, мен жасай аламын." сонда мен одан нағыз бизнес құра аламын».
Мұны шынымен жақсы орындаған фантастикалық жасаушылар бар. Олардың көпшілігі сіз білетініне сенімдімін. Мен не істегім келеді және Superhuman және біздің агенттік платформамызбен не істегіміз келеді - адамдарға осы байланыс деңгейін құруға мүмкіндік береді. Олардың көпшілігі ақпараттық бюллетеньдермен айналысады. "Мен ақпараттық бюллетень алдым. Бұл жылына 100 доллар. Міне, сіз мұны қалай жасай аласыз. 1000 адам мені 100 данға дейін алады. 10 000 адам жылына миллион доллар алады" деп айту өте мағыналы. Бұл мағыналы байланыс сияқты.
Біздің жағдайда, AI бізге кіріс жәшігінде көрінуден гөрі көп нәрсені жасауға мүмкіндік береді деп айтамын. Бұл сізге қызыл қалам мен көк қаламды адамның қасында көрсетуге және: «Мен сізге істеп жатқан нәрсеңізде, кем дегенде, біз жұмыс істеп жатқан бөлігінде көмектесе аламын» деуге мүмкіндік береді. Мен мұны құмар ойнауға дайынмын, сіз 1000 адамға «бұл маған жылына 100 доллар тұрады» деп айта аласыз ба? Сіз аласыз деп ойлаймын.
Күте тұрыңыз, мен мұны мүмкіндігінше тікелей сұраймын. Бұл мүмкіндік жақсы болады деп ойлайсыз ба?
Бұл жасаушы салған жұмыс сияқты жақсы болады. Барлық ақпараттық бюллетеньдер жақсы ма? Жоқ, ақпараттық бюллетеньдердің көпшілігі нашар. Ақпараттық бюллетень платформасы оларды жақсы ете алатынына кепілдік жоқ. Әрбір YouTube бейнесі жақсы ма? Жоқ, негізінен олар өте қорқынышты. Бірақ бұл мүмкіндік береді -
Мен сіздің платформаңызда агент құруға арналған құралыңыздың қандай екенін білмеймін, бірақ мен редакциялауды былай қойғанда, менің жазуымды қайталай алатын LLM көрмедім. Ал сіз үлгілердің мүмкіндіктеріне тәуелдісіз. Сондықтан мен сізден жалпы әдісті сұраймын, бірақ сіз өзіңіздің құралыңыздың қалай жасалғанын білесіз, шынымен де мұны жақсы жасай алатын құрал жасай аласыз ба?
Мен солай деп ойлаймын. Мен Grammarly-мен өте жақсы жұмыс жасадық, грамматика мұғалімін өте жақсы қайталадық деп айтар едім. Біз мұны кеңірек заттармен жасай аламыз ба? Мен солай сенемін. Біздің платформада жұмыс істейтін кейбір агенттермен бізде бұл туралы жақсы дәлелдер бар. Біз сізге жақсысын сала аламыз ба, әлде сізге жақсысын сала аласыз ба? Мен білмеймін. Мен онымен сізбен жұмыс істегім келеді.
Бұл құрал неге ұқсайды? «Өңдеуге мүмкіндік беретін жақсы құрал жасау» қалай көрінеді?
Бұл сіз бұрын айтқаныңыз, сізге ұнайтын көзқарасты жазу керек, сіздің редакцияңыз қандай?
Жоқ, менің айтайын дегенім, сіздің құралыңыз маған мұны істеу үшін беретін интерфейсті нақты сипаттаңыз.
О, интерфейстің үлкен бөлігі - біз триггерлер деп атайтын жедел терезе. Сіз: «Міне, меніңнұсқау». Нұсқаулықты жариялайтын сияқты ойлаңыз және міне, сіздің триггеріңіз. Міне, мұны көргенде, мынаны орындаңыз деп айтатын нәрселер жиынтығы. Міне, менің нұсқаулығым, міне, мен нәрселер туралы қалай ойлаймын. Мұны көргенде, мұны істе. Сіз тақырып бойынша кері байланысты мысал келтірдіңіз. Тақырыпқа берген пікіріңіз ұнамады. Бұл орынды. Сіз тақырыпқа қандай пікір қалдыратыныңызды жаза аласыз ба?
Бұл туралы ойлаудың басқа әдісін ұсынамын. Бір сәтке басқа біреуді жаттықтырмақшы болғаныңызды елестетіңіз. Сіз: «Ей, мен қызметкерді жалдаймын, мен өзімді кеңейтемін және мен оларды өзім сияқты болуға үйретемін» деп айтасыз. Сіз оларды қалай үйретер едіңіз? Сіз олармен бірге отырып, кейбір нәрселерді жазар едіңіз. Содан кейін сіз жасайтын екінші нәрсе - олардың мұны істеп жатқанын бақылап, содан кейін оларды түзететін боласыз.
Біз істеу керек тағы бір нәрсе - біз айтуымыз керек, сіз кері байланыс алуыңыз керек және сіз келіп: «Бұл сұмдық ұсыныс болды. Мұны қайталама». Міне, интерфейс осылай сезінуі керек. Сіз нұсқаулар жинағын бересіз, триггерлер жиынтығын бересіз, содан кейін кері байланыс аласыз. Сіз: «Бұл жұмыс істеді, бұл жұмыс істемеді» дейсіз. Сіз қайтып келесіз және сіз оған қарап: «Иә, бұл жұмыс істемеді» деп айтасыз. Мүмкін бұл пайдаланушы үшін жұмыс істемеді, олар сіздің ұсыныстарыңызды елемеді. Мүмкін бұл жақсы жұмыс деп ойлағаныңыз үшін жұмыс істемеді. Сіз нәтижеге қарадыңыз және бұл өте жақсы жұмыс емес екенін айттыңыз және сіз оны үйретесіз.
Әрбір адамға, әрбір өнімге тапсырыс берушіні дайындау идеясы шынымен қызықты және тартымды. Менің ойымша, бұл бәріне оңай болмайды, бірақ мұны жақсы жасайтын адамдар бүгінгі күннің көрнекті YouTube жасаушылары сияқты болады. Сіз жарнамалық доллармен немесе су бөтелкелерін сатумен ешқашан түсіре алмайтындай кең адамдар тобымен өте терең байланыс орнатасыз.
Сізде бүгінгі күні жақсы жұмыс істейтін солардың бірінің мысалы бар ма?
Менің ойымша, Грамматика ең айқын. Басқа шынымен жақсылардың көпшілігі -
Грамматика грамматика сияқты, солай ма? Бұл ережелерге негізделген және өте нақты. Грамматиканың ережелері бар, логикасы бар. Ол шетінде иілгіш, бірақ жақсы грамматикасы бар және нашар грамматикасы бар және сіз екеуін анық анықтай аласыз.
Бұл шын мәнінде қызықты. Грамматика - бұл модельдер жинағы. Негізгі деңгей үлгісі шын мәнінде емле. Орфография - бұл ең негізгі анықтамалық нәрсе. Грамматиканың өте жақсы ережелері бар. Емледе нақты ережелер бар. Грамматиканың өте жақсы ережелері бар.
Бірақ шын мәнінде адамдардың грамматиканы қолдануының себебі - біз одан да асып түсеміз. Сондықтан біз тон бойынша кеңес береміз, стиль бойынша кеңес береміз. Біз: «Ей, бұл сізді қатты естиді». Мұның бәрі сіз Grammarly үшін төлеген кезде алатын нәрселер. Бұл олар бізден алатын ұсыныстардың түрі және оларға ұнайтын сияқты - оны күн сайын 40 миллион адам пайдаланады. Платформаға секіріп, агенттер құрған көптеген серіктестер бар. Олардың көпшілігі құралдарға жақынырақ.
Бір-екі апта бұрын Gamma-дан іске қосылды, бұл сізге шынымен жақсы слайд палубасын құруға көмектеседі. Олар «не жаздыңыз?» деп көп жұмыс істеді. «Мен слайд палубасына қалай айналамын?» Біз олардың көпшілігінің компаниялардың ішінде салынғанын көрдік. Мен өте кең таралған сату мысалы: «Ей, егер мен сату бөлімінің басшысы болсам, менде сату әдістемесі бар. Сіз әрқашан осы үш сұрақты қоюыңыз керек. Сіз әрқашан біздің өнімді осы жолмен ұсынуыңыз керек ». Олар оларды жазып алады, оны агентке айналдырады және: «Олар жұмыс істеп жатқанда, бұл адамдардың көз алдында екеніне көз жеткізіңіз» дейді. Менің ойымша, олардың кейбіреулері керемет жұмыс істейді.
Бұл кәсіпорынның пайдалануы және мен сатуды пайдалану жағдайын көп түсінемін. Сізге сатушылар әрқашан бірдей нәрсені айтуы керек. Мен олардың мұны үнемі жасамайтынын түсінемін. Бізде сатушылар бар.
Негізі шығармашылық адам жұмыс істей ала ма?
Мен сұрап отырмын, өйткені талғам ережелерге негізделген деп ойламаймын. Біздің продюсерлер бұл жерде жай ғана шалшықта екінші орында, өйткені олардың апта сайынғы жұмысының бір бөлігі мен сияқты жазуға тырысу. Олар көп аладыбұл туралы маған тікелей кері байланыс. Мен кіріспелерді және шығыстарды оқи алу үшін құжаттарды түзетіп жатырмын және сұрақтарды өзгертіп жатырмын. Тіпті жұмыс істейтін нәтижеге жету үшін жылдар бойы бірге жұмыс істеген үш адам болса да, бұл өте қиын. Және олар шынымен жақсы.
Иә. Бұл мүлдем әділ. Менің болжауымша, мұнда бірінші кезекте басым болатын сарапшылардың түрлері сіз сипаттайтындар болмайды. Шығармашылық, ерекше дыбыс беретін, оны жақсырақ ететіндер бірінші жұмыс істейтіндер емес. Бірақ менің ойымша, тамаша жұмыс істейтін сарапшылар мен авторлардың жиынтығы бар. Мүмкін мен Grammarly-дің дәл қасындағыларды таңдайтын шығармын.
Бұл өте жақсы жұмыс істейтін мұғалімдердің жиынтығы бар. Олар: "Ей, грамматикаңыздың жақсы екеніне көз жеткізумен қатар, сіз тарих туралы бірдеңе жазып жатқан сияқтысыз. Мен сізге тарихты нақтырақ көрсетуге көмектесетін шығармын" деп айтатын болады. Бұл грамматикалық фактілер сияқты анық емес, бірақ ол өте жақын. «Бұл кезеңде болған жағдай. Сіз оның әртүрлі элементтерін білуіңіз керек». Ұстаздар мұның тамаша үлгісі болады.
LLM шынымен неде жақсы? Олар барлығының айтқандарын орташа есептей алады. Сонда олар сіз сияқты ерекше нәрсені жасай ала ма? Жоқ, мүмкін емес. Олар сіздің ұсынысыңыздың бір бөлігін алып, оны 1000 адамға айына 100 доллар төлеуге мүмкіндік беретіндей пайдалы нәрсеге айналдыра ала ма? Сіз бірдеңе ойлап таба аласыз деп ойлаймын, себебі жолақ жоғары емес.
Біз әңгімені аздап өзгерткенімізді білемін. Егер біз сіз туралы және сіздің бизнес мүмкіндігіңіз туралы айтатын болсақ, сіз өзіңізді жеке тұлға ретінде қайталаудың қажеті жоқ. Сізге 1000 адам жылына 100 доллар төлейтіндей жеткілікті пайда жасау керек. Бұл сізге істеу керек нәрсе. Сіздің әдістемеңіздің кейбір бөлігі адамдар мұны жасайтындай жақсы деп ойлайсыз ба? бар екеніне сенімдімін.
Мен бұл туралы көп ойлануым керек. Келгеніңіз үшін, сұрақтарға жауап бергеніңіз үшін, сұрақтарға жауап беру үшін ойын ойнағаныңыз үшін көп рахмет. Мен оны бағалаймын.
Әрине.
Басқа да сұрақтарым көп. Толық ауқымды кеңейту үшін сізге жақын арада қайта оралуымыз керек. Грамматикадан кейін не болады? Аудиторияға нені іздеу керектігін айтыңыз.
Біз Superhuman Go-ны құрумен айналысамыз. Алдағы екі айда бізде үлкен ұшырулар жинағы бар, сондықтан оған назар аударыңыз.
Жарайды. Шишир, декодерде болғаныңыз үшін көп рахмет.
Жарайды. Рақмет сізге.
Осы эпизод туралы сұрақтар немесе пікірлер? Бізге decoder@theverge.com мекенжайы бойынша хабарласыңыз. Біз шынымен әрбір электрондық поштаны оқимыз!
