오늘 Decoder에서는 현재 조사 보도 분야의 가장 큰 스타 중 한 명인 Ronan Farrow와 이야기를 나누고 있습니다. 그는 Harvey Weinstein의 이야기를 깨뜨렸습니다. 그리고 바로 지난 주 그와 공동 저자인 Andrew Marantz는 The New Yorker에 OpenAI CEO인 Sam Altman, 그의 신뢰성, OpenAI 자체의 부상에 대한 놀라운 심층 기사를 게재했습니다.
여기서 더 나아가기 전에 한 가지 참고할 점은 New Yorker가 해당 기사를 발표했고 Ronan과 저는 Altman의 집에 대한 공격의 전체 범위를 알기 전에 이 대화를 나눴기 때문에 이에 대해 직접 이야기하는 것을 듣지 못할 것입니다. 하지만 간단히 말해서, 저는 어떤 종류의 폭력도 용납할 수 없다고 생각합니다. Sam에 대한 이러한 공격은 용납할 수 없는 일이며, 사람들이 느끼는 무력감은 이러한 종류의 폭력으로 이어지는 것 자체가 용납될 수 없으며 업계와 정치 지도자 모두로부터 훨씬 더 면밀한 조사를 받을 가치가 있다고 생각합니다. 나는 그것이 분명하기를 바랍니다.
Verge 구독자 여러분, 팟캐스트를 다운로드할 때마다 광고 없는 Decoder에 독점적으로 액세스할 수 있다는 것을 잊지 마세요. 여기로 가세요. 구독자가 아니신가요? 여기에서 가입할 수 있습니다.
즉, 엄격한 보고를 위한 공정한 게임인 Altman 주변에는 Ronan과 Andrew가 시작한 보고 유형과 같은 많은 소용돌이가 있습니다. ChatGPT의 인기 덕분에 Altman은 AI 업계에서 가장 눈에 띄는 인물로 떠올랐고, 한때 비영리 연구소였던 곳을 불과 몇 년 만에 거의 1조 달러 규모의 민간 기업으로 탈바꿈시켰습니다. 그러나 Altman의 신화는 그의 명백한 거래 능력과 그의 보고된 경향에 의해 똑같이 정의되며, 주변의 모든 사람에게 거짓말을 하는 깊은 갈등을 가지고 있습니다.
이 이야기의 길이는 17,000단어가 넘으며, 2023년에 OpenAI 이사회가 거짓말을 했다는 이유로 알트먼을 갑자기 해고했지만 거의 즉시 다시 채용된 사건에 대한 확실한 설명이 포함되어 있습니다. 또한 Altman의 개인 생활, 투자, 중동 돈에 대한 구애, 과거 행동 및 성격 특성에 대한 자신의 성찰에 대한 심층 분석으로 한 소식통은 그가 "진실에 구애받지 않는다"고 말했습니다. 전체 이야기를 읽어 보시기 바랍니다. 나는 그것이 앞으로 수년 동안 참조될 것이라고 생각합니다.
로넌은 이 기사를 취재하는 18개월 동안 알트만과 여러 차례 대화를 나눴고, 그래서 제가 가장 궁금했던 것 중 하나는 그가 그 시간 동안 알트만에 어떤 변화를 느꼈는지 여부였습니다. 결국 지난 1년 반 동안 AI, 기술, 그리고 전 세계적으로 많은 일이 일어났습니다.
Ronan이 이에 대해 매우 직접적으로 이야기하는 것을 듣게 될 뿐만 아니라 사람들이 진실을 확장하는 Altman의 능력에 대해 훨씬 더 기꺼이 이야기하게 되었다는 그의 느낌도 듣게 될 것입니다. 사람들은 알트만과 같은 사람들의 행동이 AI나 기술뿐만 아니라 사회의 집단적 미래에도 영향을 미치는지 궁금해하기 시작했습니다.
좋습니다. Sam Altman, AI 및 진실에 대한 Ronan Farrow의 답변입니다. 여기 있습니다.
이 인터뷰는 길이와 명확성을 위해 약간 편집되었습니다.
Ronan Farrow, 당신은 The New Yorker의 조사 기자이자 기고자입니다. 디코더에 오신 것을 환영합니다.
여기 있어서 기쁘네요. 초대해주셔서 감사합니다.
당신과 이야기하게 되어 매우 기쁩니다. 방금 The New Yorker에 큰 글을 쓰셨습니다. 이것은 Sam Altman의 프로필이고 일종의 OpenAI입니다. 내가 읽은 바에 따르면 모든 훌륭한 기능이 그렇듯이 엄격한 보고를 통해 사람들이 Sam Altman에 대해 아주 오랫동안 가지고 있었던 많은 감정을 검증합니다. 당신은 분명히 그것을 출판했고 그것에 대한 반응을 얻었습니다. 지금 그것에 대해 어떻게 생각하시나요?
글쎄요, 사실 저는 관심 경제가 일종의 정신 분열증적이고 천박한 시대에 그것이 돌파된 정도에 대해 용기를 얻었습니다. 내 생각에 이것은 우리 모두에게 영향을 미치는 이야기이다. 그리고 제가 인생의 1년 반을 보냈고 공동 저자인 Andrew Marantz도 그 시간을 법의학적이고 세심한 작업을 수행하려고 노력하면서 보냈는데, 이는 항상 이야기의 중심에 있는 개인과 회사를 넘어 사람들에게 영향을 미치는 더 큰 구조적 문제가 있다고 느끼기 때문입니다.
샘 알트만(Sam Altman)은 미래에 실현될 수도 있고 실현되지 않을 수도 있는 약속을 바탕으로 막대한 가치 평가를 받는 실리콘 밸리의 과대광고 문화와 스타트업, 그리고 서로 다른 그룹에 서로 다른 상충되는 것들을 이야기한다고 생각하는 창업자 문화의 포용이 점점 더 늘어나는 것을 배경으로 합니다.버그... 그런 배경에도 불구하고 샘 알트만은 그런 것을 기대하는 실리콘밸리의 모든 사람들이 그의 신뢰성과 정직성에 대한 이 질문을 멈추지 않는 특별한 사례입니다.
우리는 그가 부정직 또는 일련의 거짓말 혐의로 해고되었다는 것을 이미 알고 있었습니다. 그러나 놀랍게도 훌륭한 보도가 있었음에도 불구하고 Keach Hagey는 이에 대해 훌륭한 작업을 수행했습니다. Karen Hao는 이에 대해 훌륭한 작업을 수행했습니다. 실제로 주장되는 증거 요점과 그것이 대중의 눈에 띄지 않는 이유에 대한 명확한 이해가 없었습니다.
첫 번째 요점은 우리의 대중 지식, 심지어 실리콘 밸리 내부 지식의 격차가 이제 조금 더 채워졌다는 사실에 마음이 뭉클해진다는 것입니다. 공백이 있었던 이유 중 일부가 조금 더 채워졌습니다.
우리는 회사 내부 사람들이 실제로 일이 은폐되었거나 의도적으로 문서화되지 않았다고 느꼈던 사례를 보고합니다. 이 이야기의 새로운 것 중 하나는 WilmerHale의 중추적인 로펌 조사입니다. 이 로펌은 분명히 수백 페이지에 달하는 방대한 양의 Enron과 WorldCom에 대한 조사를 수행한 훌륭하고 신뢰할 수 있는 대형 로펌입니다. WilmerHale은 Altman을 해고할 때 떠나는 조건으로 Altman을 해고한 이사회 멤버들이 요구한 대로 이 조사를 수행했고 그는 돌아왔습니다. 그리고 제가 이야기를 나눈 많은 법률 전문가들의 눈에는, 그리고 놀랍게도 이 회사의 많은 사람들의 눈에는 놀랍게도 그들은 그 내용을 글로 쓰지 않았습니다. 그로부터 나온 것은 신뢰 붕괴로 무슨 일이 일어났는지 설명하는 OpenAI의 800 단어 보도 자료뿐이었습니다. 그리고 이것이 구두 브리핑으로 유지되었음을 확인하였습니다.
예를 들어, 이사회 구성원이 OpenAI의 원래 비영리 형태에서 영리 법인으로의 전환에 반대하는 것처럼 보이는 경우가 있으며 이는 기권으로 기록됩니다. 회의에 참석한 변호사가 "글쎄, 그건 너무 많은 조사를 촉발할 수 있어"라고 말하는 것과 같습니다. 그리고 반대표를 던진 사람은 모든 출연에 대해 기권으로 기록됩니다. 사실관계 다툼이 있습니다. OpenAI는 여러분이 상상할 수 있듯이 그렇지 않다고 주장합니다. 이는 모두 자체 계정으로 우리의 미래를 손에 쥐고 있는 회사가 있는 경우입니다.
안전 위험이 너무 심각해서 사라지지 않았습니다. 이것이 바로 이 회사가 안전에 초점을 맞춘 비영리 단체로 설립된 이유이며, 주변의 신뢰할 만한 사람들이 이 회사를 전문성이 부족하다고 생각하는 방식으로 모든 것이 모호해졌습니다. 그리고 의미 있는 규제에 대한 정치적 욕구가 거의 없는 배경과 결합합니다. 굉장히 발버둥치는 상황인 것 같아요.
제가 보기에 중요한 점은 Sam Altman이 이러한 질문을 그토록 심각하게 받을 자격이 있다는 것 뿐만이 아닙니다. 또한 이 분야의 이들 중 누구라도, 그리고 많은 핵심 인물들이 이 특이하고 항상 거짓말을 하는 특성은 아닐지라도 확실히 어느 정도 밑바닥까지 경쟁하는 사고방식을 보여줍니다. 여기서 안전주의자였던 사람들은 그러한 약속을 희석하고 모두가 경주에 임하는 자세를 취했습니다.
최근 Anthropic의 유출 내용을 보면 이 글에서 누가 버튼을 눌러야 하는지에 대한 질문을 던지는 사람이 있는 것 같습니다. 대답은, 만약 우리가 의미 있는 감독을 하지 않는다면, 우리는 심각한 질문을 하고 이 모든 사람들에 대해 가능한 한 많은 정보를 표면화하려고 노력해야 한다고 생각합니다. 그래서 저는 그것에 대한 의미있는 대화, 또는 그 시작에 대해 기분이 좋아졌습니다.
그렇게 물어본 이유는 당신이 이 일을 1년 반 동안 했기 때문이다. 내 생각에 당신은 공동 저자인 Andrew와 함께 100명과 이야기를 나눴습니다. 이야기를 요리하는 데 오랜 시간이 걸립니다. 특히 AI 분야의 지난 1년 반을 생각해보면 이 모든 캐릭터의 태도와 가치관이 매우 빠르게 바뀌었습니다.
아마도 ChatGPT를 출시했고 모두가 그것이 Google을 대신할 것이라고 생각했기 때문에 기본 승자로 시작한 Sam Altman보다 더 많은 사람은 없을 것입니다. 그리고 나서 구글이 응답했고, 이는 구글이 비즈니스 역사는 아니더라도 기술 역사상 최고의 비즈니스 중 하나일 수도 있는 비즈니스를 보호하려고 노력할 것이라는 사실에 놀란 것 같았습니다. Anthropic은 기업에 초점을 맞추기로 결정했습니다. 선두를 달리고 있는 것 같다.기업의 AI 활용도가 너무 높기 때문입니다.
이제 OpenAI는 "우리는 Google을 상대할 것입니다"에서 Codex로 제품의 초점을 다시 맞추고 기업을 상대할 것입니다. 지난 1년 반 동안 취재를 하시면서, 말씀하시는 인물이 변한 것 같은 느낌이 들지 않았는지 잘 모르겠습니다. 그들의 태도와 가치관처럼 변화가 있었나요?
예. 우선, 이 글에서 탐구되는 비평은 현 시점에서 이 회사 내부의 많은 사람들로부터 나오고 있습니다. 이 산업은 실존적 위험에도 불구하고 안전에 대한 바닥을 향한 경쟁으로 내려가고 있으며 속도가 다른 모든 것보다 우선하는 산업이라는 점에 대한 우려가 더욱 심각해졌습니다. 그리고 지난 1년 반이 지나면서 그러한 우려는 더욱 확증되었다고 생각합니다. 동시에 Sam Altman에 대한 태도도 구체적으로 바뀌었습니다. 우리가 이에 대해 소식통과 이야기하기 시작했을 때 사람들은 이것에 대해 인용되고 이에 대해 기록을 남기는 것을 정말로 매우 경계했습니다.
우리의 보고가 끝날 무렵에는 사람들이 이 문제에 대해 매우 공개적이고 명시적으로 이야기하는 보고 체계가 있고 이사회 구성원이 "그는 병적인 거짓말쟁이입니다. 그는 소시오패스입니다."와 같은 말을 합니다. "이것은 안전 문제를 고려할 때 위험하며, 우리는 이 기술의 무결성을 높이는 리더가 필요합니다."부터 "안전 문제는 잊어버리세요. 이는 대기업의 임원이 용인할 수 없는 행동이며, 너무 많은 기능 장애를 야기할 뿐입니다."까지 다양한 관점이 있습니다.
그래서 대화는 뒤늦게 느껴지지만 어떤 의미에서는 격려가 되는 방식으로 훨씬 더 명확해졌습니다. 그리고 샘 알트만(Sam Altman)이 공로를 인정합니다… 이 작품은 샘에게 매우 공정하고 심지어 관대하기까지 합니다. 이것은 "당신을 잡았습니다"라는 내용이 많은 작품이 아닙니다. 우리가 이 일을 마무리하면서 나는 그와 전화 통화를 하며 많은 시간을 보냈고 그의 이야기를 실제로 들었습니다.
상상할 수 있듯이, 이 작품에 모든 것이 들어맞는 것은 아닙니다. 이 작품의 그러한 경우 중 일부는 제가 진심으로 듣고 있었기 때문입니다. 그리고 Sam이 실제로 내가 물을 흘렸다고 느꼈다는 주장을 하고 있었다면, 그것이 사실이라 할지라도 선정적일 수 있다는 것이 나는 실제로 법의학을 유지하고 측정하는 측면에서 실수를 범했습니다. 그래서 나는 그것이 올바르게 받아들여지고 있다고 생각하며, 이 기간 동안 축적된 이 사실 기록이 감독의 필요성에 대한 더욱 힘찬 대화를 촉발할 수 있기를 바랍니다.
그게 사실 내 다음 질문이에요. 이 이야기를 보도하는 동안 샘과 열두 번씩 이야기를 나눈 것 같아요. 다시 말하지만, 그것은 오랜 기간에 걸쳐 많은 대화를 나누는 것입니다. 지난 1년 반 동안 취재를 하면서 샘이 변했다고 생각하시나요?
응. 여기서 가장 흥미로운 하위 플롯 중 하나는 Sam Altman이 과거보다 이 특성에 대해 더 명확하게 이야기하고 있다는 것입니다. 이 작품 속 샘의 자세는 "거기 아무것도 없어, 이건 사실이 아니야, 무슨 말을 하는지 모르겠어"와 같은 자세가 아닙니다. 이는 사람을 좋아하는 성향과 일종의 갈등 혐오에서 비롯된 것이라고 말하는 자세다. 그는 특히 그의 경력 초기에 그것이 그에게 문제를 일으켰다는 것을 인정하고 있습니다.
그는 “글쎄, 나는 그것을 지나쳐 가고 있거나 어느 정도 지나쳐야 합니다.”라고 말하고 있습니다. 제 생각에 정말 흥미로운 것은 일종의 안전 옹호자, 이러한 심각한 안전 문제를 자주 겪는 기본 기술 연구원뿐만 아니라 실용적이고 큰 투자를 한 사람들이 우리와 대화를 나눈 사람들이라는 것입니다. 그들은 어떤 경우에는 이 질문을 보고 샘이 해고 후 복귀하는 데 핵심적인 역할을 했다고 이야기하는 샘의 후원자입니다. 이제 그가 개혁되었는지, 그리고 그 변화가 어느 정도 의미가 있는지에 대한 질문에 그들은 "글쎄, 당시 우리는 그에게 의심의 이익을 주었다"고 말합니다.
특히 한 저명한 투자가가 “그런데 그 이후로 그 사람은 헛간 뒤로 끌려나간 게 아닌 게 분명한 것 같다”고 했던 말이 생각나는데, 이 말은 이 사람이 필요에 따라 사용한 표현이다. 결과적으로 이는 이제 안정적인 특성이 된 것 같습니다. 우리는 이것을 지속적인 방식으로 보고 있습니다. OpenAI의 가장 큰 사업을 살펴볼 수 있습니다.관계와 그들이 지속적인 방식으로 불신의 무게를 짊어지는 방식.
Microsoft와 마찬가지로 그곳의 경영진과 이야기를 나누면 그들은 매우 심각하고 최근에 촉발된 우려를 가지고 있습니다. 같은 날 OpenAI는 기본 상태 비저장 AI 모델과 관련하여 Microsoft와의 독점권을 재확인하고 상태 저장 AI 에이전트 구축을 위한 엔터프라이즈 솔루션 판매와 관련된 Amazon과의 새로운 거래를 발표했습니다. 즉, 메모리가 있음을 의미합니다.
Microsoft 직원과 이야기를 나누면 그들은 "우리가 독점 계약을 맺은 기본 제품과 상호 작용하지 않고는 불가능합니다."라고 말합니다. 따라서 이는 이 특성이 항상 지속적인 비즈니스 활동에 영향을 미치고 OpenAI 이사회, 경영진 및 더 넓은 기술 커뮤니티에서 적극적인 관심의 대상이 되는 많은 작은 예 중 하나일 뿐입니다.
계속 그 '특성'이라고 말하시네요. 이야기에는 제가 보기에 논문처럼 느껴지는 대사가 있는데, 그것은 당신이 설명하는 특성에 대한 설명입니다. "샘 알트먼은 진실에 구애받지 않고" "동일한 사람에게서는 거의 볼 수 없는 두 가지 특성을 갖고 있습니다. 첫 번째는 사람들을 기쁘게 하고 어떤 상호 작용에서든 호감을 얻으려는 강한 욕구이고, 두 번째는 누군가를 속일 때 발생할 수 있는 결과에 대해 거의 소시오패스적인 관심이 부족하다는 것입니다."
말씀드리고 싶은 건, 그 문장을 500번이나 읽었고, 사람들이 좋아하고 싶은 말을 항상 말하고, 거짓말을 한다고 느껴도 화를 내지 않는 모습을 상상하려고 노력했습니다. 그리고 나는 같은 사람에게 어떻게 그런 것들이 존재할 수 있는지 내 감정 상태를 이해할 수 없었습니다. 당신은 샘과 많은 대화를 나눴고, 이러한 특성을 경험한 사람들과도 이야기를 나눴습니다. 그는 어떻게 합니까?
응. 나는 중심에 있는 사람을 인간화하고 깊은 이해와 공감을 추구하는 데 중점을 두고 이와 같은 보도 기관에 접근하기 때문에 인간 수준에서 흥미롭습니다. 좀 더 인간적인 관점에서 접근하려고 했을 때, "만약 나와 함께 일했던 많은 사람들이 나를 병적 거짓말쟁이라고 말한다면 이건 나에게 충격적인 일이 될 것입니다. 그 무게를 어떻게 감당합니까? 치료에서는 그것에 대해 어떻게 이야기합니까? 그것에 대해 스스로에게 말하는 이야기는 무엇입니까?"
내 생각에는 "그래, 나는 숨 쉬는 걸 좋아해"와 같은 서해안의 진부한 말을 들었을 것입니다. 그러나 우리의 행동과 사람들을 대하는 태도에 대한 이런 종류의 피드백을 본다면 우리 중 많은 사람들이 아마도 가질 것이라고 생각하는 깊은 자기 대결의 종류는 그리 많지 않습니다.
나는 그것이 실제로 질문에 대한 더 넓은 대답에도 적용된다고 생각합니다. Sam은 이러한 특성이 문제를 일으켰다고 주장하지만, 이는 OpenAI의 성장을 가속화하여 다양한 그룹의 사람들을 단결시키고 기쁘게 할 수 있는 원동력이 되었다고 주장합니다. 그는 이러한 모든 상충되는 지지자들에게 그들이 관심을 갖는 것이 자신이 관심을 갖는 것임을 지속적으로 설득하고 있습니다. 그리고 그것은 창업자에게 정말 유용한 기술이 될 수 있습니다. 나는 투자자들과 이야기를 나눈 적이 있는데, 그들은 "글쎄, 그것은 불화를 너무 많이 심기 때문에 실제로 회사를 운영하는 데 덜 유용한 기술일지도 모릅니다."라고 말했습니다.
하지만 Sam 개인적 측면에서 제가 인간적인 차원에서 연결하려고 할 때 깨닫는 점은 더 깊은 대결, 성찰, 자기 책임이 명백히 부족하다는 것입니다. 이는 IPO를 준비하는 회사의 초능력이나 책임도 알려줍니다.
그는 "무모함"이 자신이 사용하는 문구라고 기사에 기록된 윤수라는 전 이사의 말에 따르면, 자신의 판매 홍보의 변화하는 현실을 진정으로 믿을 수 있거나 스스로 확신할 수 있는 사람입니다. 아니면 적어도 그가 그것을 믿지 않는다면, 그는 의미 있는 자기 의심 없이 그것을 통해 허풍을 떨 수 있습니다.
나는 당신이 말하는 것에 대해, 당신이나 내가 그 말을 하고 그것이 우리가 한 다른 확신과 충돌한다는 것을 깨닫는 순간 잠시 얼어붙거나 우리 자신을 점검할 수 있다고 생각합니다. 그 사람에게는 그런 일이 일어나지 않을 것 같아요. 그리고 이를 포용하는 더 넓은 실리콘 밸리의 과대광고 문화와 창업자 문화가 있습니다.
재미있다. The Verge는 제품 리뷰를 기반으로 만들어졌습니다.프로그램. 이것이 우리가 여기서 하는 일의 핵심입니다. 나는 1년에 한 번씩 1조 달러 규모의 Apple R&D 자금을 보유하고 “이 휴대폰은 7입니다.”라고 말합니다. 그리고 그것은 우리의 모든 보고와 다른 의견을 합법화합니다. 우리에게는 평가 기능이 있는데, AI 제품을 보면서 “작동합니까?”라고 말하는 데 너무 많은 시간을 소비합니다.
오늘날의 AI에 관한 많은 대화에서 그것이 누락된 것 같습니다. 그것이 무엇을 할 수 있는지, 얼마나 위험할 수 있는지에 대한 끝없는 대화가 있습니다. 그런 다음 드릴다운하여 "오늘 해야 할 일이 실제로 수행되고 있나요?"라고 말합니다. 어떤 경우에는 대답이 '예'입니다. 그러나 많은 경우에 대답은 '아니요'입니다.
그것은 당신이 묘사하는 과대 광고 문화와 연결되는 것 같고, 당신이 뭔가를 할 것이라고 말했지만 그렇지 않고 누군가 기분이 좋지 않다면 우리가 다음 일을하기 때문에 괜찮다는 감각과도 연결되는 것 같습니다. 그것은 과거의 일입니다. 특히 AI에서 Sam은 원대한 약속을 하는 데 매우 능숙합니다.
이번 주에 귀하의 이야기가 출판된 날 OpenAI는 사회 계약을 다시 생각하고 정부로부터 AI 효율성 보조금을 받아야 한다는 정책 문서를 발표했습니다. 이는 일부 기술이 어떻게 세상의 미래와 우리가 사는 방식을 형성할 수 있는지에 대한 장엄한 약속이며, 이 모든 것은 작동할 것이라고 약속했거나 작동해야 하는 방식으로 정확히 작동하는 기술에 달려 있습니다.
샘이 AI가 AGI나 초지능으로 변하거나 결승선에 도달하는 것을 의심한 적이 있나요? 왜냐면 그게 제가 가장 궁금하거든요. 이 핵심 기술이 그들이 할 수 있다고 말하는 모든 것을 할 수 있는지에 대한 반성이 있습니까?
정확히 맞는 질문 세트입니다. 이 보고 본문에서 우리가 인터뷰한 신뢰할 수 있는 기술 전문가가 있습니다. 그리고 분명히 Sam Altman은 그런 사람이 아닙니다. 그는 사업가입니다. 그는 Sam이 이 기술의 타임라인에 대해 이야기하는 방식이 완전히 틀렸다고 말합니다. Sam이 "우리는 이미 사건의 지평선에 도달했습니다. AGI는 기본적으로 여기에 있습니다. 초지능이 곧 다가옵니다. 우리는 다른 행성에 있을 것입니다. 우리는 모든 형태의 암을 치료할 것입니다."라고 말하는 블로그 게시물이 몇 년 전 있습니다. 사실, 나는 꾸미지 않습니다.
암 문제는 실제로 흥미롭습니다. Sam이 ChatGPT를 사용하여 이론적으로 개 암을 치료한 사람을 과장하고 있지만 그런 일은 일어나지 않았습니다. 그들은 ChatGPT와 대화를 나눴고 실제로 작업을 수행한 일부 연구원을 안내하는 데 도움이 되었지만 이 개를 치료한 일대일 도구는 실제로 이야기가 아닙니다.
기술의 잠재력과 위험이 실제로 언제 발휘될 것인지에 대한 더 큰 요점을 다루고 싶기 때문에 그 점을 제기해주셔서 기쁩니다. 그러나 Sam Altman에게서 끊임없이 발생하는 이러한 작은 측면은 언급할 가치가 있습니다. Sam Altman은 이 특성을 다시 한 번 구현하는 것처럼 보입니다.
내 말은, WilmerHale 보고서의 예를 사용하는 것인데, 우리는 이 정보를 서면으로 보관하고 있었고, 그 과정에서 Sam이 이를 감독하기 위해 설치하는 데 도움을 준 두 명의 이사회 구성원 이외의 다른 사람에게 구두 브리핑이 제공되었는지 알고 싶었습니다. 그리고 그는 "예, 예, 아니오. 이후에 이사회에 합류한 모든 사람에게 주어졌을 것이라고 믿습니다."라고 말했습니다. 그리고 상황을 직접적으로 아는 사람이 단순히 거짓말일 뿐이라고 말하는 사람도 있습니다. 그리고 그것은 실제로 사실이 아닌 것처럼 보입니다. 우리가 관대하게 대하고 싶다면 아마도 그는 잘못 알고 있었을 것입니다.
이러한 우연한 확신이 많이 있습니다. 그리고 제가 그 예를 부분적으로 사용하는 이유는 그것이 법적으로 실제적인 결과를 초래할 수 있는 해체의 훌륭한 예이기 때문입니다. 델라웨어 기업법에 따라 이 회사의 IPO가 220항에 따라 주주들이 이에 대해 불만을 제기하고 기본 문서를 요구할 수 있다고 말할 필요는 없습니다. 이미 “잠깐만요. 그 브리핑을 했어야 했는데”라는 말을 하는 이사회도 있다.
따라서 항상 그의 입에서 튀어나오는 것처럼 보이는 이러한 것들은 실제 시장을 움직이는 효과, OpenAI에 대한 실제 효과를 가질 수 있습니다. 다시 표면화되는 일종의 유토피아적 과대광고 언어로 돌아가서, 제 생각엔 이 작품이 나온 날 우연이 아니라 우리 모두에게도 영향을 미친다고 생각합니다.무기에 배치되는 방식, 화학전 물질을 식별하는 데 사용되는 방식, 허위 정보 가능성, 그리고 유토피아적 과대광고 방식으로 인해 많은 신뢰할 만한 경제학자들이 "이것은 모든 거품의 징후를 가지고 있습니다."라고 말하게 만드는 것 같습니다.
샘 알트만(Sam Altman)도 “여기서 누군가는 많은 돈을 잃을 것”이라고 말했습니다. 만약 이 모든 회사들이 서로 거래를 하고 너무 많은 돈을 빌리고 AI에 올인하는 것과 관련된 거품이 무너진다면 그것은 정말로 많은 미국과 세계 경제 성장을 불러일으킬 수 있습니다. 그래서 Sam Altman이 말하는 것이 중요합니다. 제 생각에는 그 주변 사람들이 압도적으로 많다고 생각합니다. 우리가 100명이 넘는 사람들과 이야기를 나눴다고 하셨는데 실제로는 100명이 훨씬 넘었습니다. 결승선에서 '이렇게 높은 숫자라고 하기에는 너무 얄팍한 이야기 아닐까'라는 대화를 나눴다. 그리고 우리는 "그래, 경시하자. 우리는 멋지게 플레이할 거야."라고 했어요. 그런데 “이게 고민이다”라고 말하는 사람이 너무 많고 상당수가 그랬다. 그게 전부인 것 같아요.
그 번호에 대해 물어보겠습니다. 당신이 언급한 것처럼, 시간이 지남에 따라 사람들은 우려에 대해 점점 더 개방적이 되었습니다. 이기고, 이 모든 투자를 상환하고, 승자로 부상하고, IPO에 대한 경쟁과 같은 거품 주변의 압력이 많은 태도를 변화시킨 것처럼 느껴집니다. 이는 확실히 Sam과 OpenAI에 더 많은 압력을 가했습니다.
우리는 이번 주에 OpenAI의 분위기에 관한 이야기를 발표했습니다. 귀하의 이야기도 그 일부이지만 OpenAI 임원진의 대규모 인력 변화는 사람들이 오고 가고 있기 때문입니다. 연구자들은 모두 주로 Anthropic으로 향하고 있는데, 제 생각에는 정말 흥미롭습니다. 이 회사가 압박감을 느끼고 있고 어떤 방식으로든 그 압박에 대응하고 있다는 것을 알 수 있습니다.
하지만 샘이 해고당했던 일이 생각납니다. 이것은 나에게 기억에 남는 것입니다. 다른 누구에게도 기억에 남지 않는 일인데, 금요일 저녁 7시에 브롱크스 동물원에서 소식통 전화를 받았는데, 누군가 샘을 다시 데려오겠다고 하더군요. 그리고 우리는 그 이야기를 추적하면서 주말을 보냈습니다. 그리고 저는 "나 지금 동물원에 있는데 여기서 뭘 하길 바라?"라고 생각했어요. 그러자 대답은 “전화를 끊지 마세요”였습니다. 글쎄, 내 딸은 "전화 좀 그만해"라고 했어요. 그리고 그것이 내가 한 일입니다.
샘을 되찾기 위해서는 타느냐 죽느냐의 싸움이었습니다. 그 회사는 "아니요, 우리는 이사회가 Sam Altman을 해고하도록 놔두지 않을 것입니다."라고 말했습니다. 당신의 글에서 인용된 투자자들은 "우리는 전쟁에 나섰습니다."라고 생각합니다. 제 생각에는 Thrive Capital의 입장은 "샘을 되찾기 위한 것입니다." 마이크로소프트는 샘을 되찾기 위해 전쟁에 나섰습니다. 나중에, 이제 모두가 "우리는 IPO를 할 거야. 결승선에 도달했어. 우리가 그 사람을 다시 데려왔고, 그 사람이 우리를 결승선까지 데려갈 거야. 우리는 그가 거짓말쟁이가 아닐까 걱정하고 있어."라고 말합니다.
그땐 왜 그를 되찾기 위한 전쟁이었을까? 왜냐하면 실제로는 아무것도 변한 것이 없는 것 같기 때문입니다. Ilya Sutskever와 [Anthropic CEO] Dario Amodei가 Sam Altman과 동시대에 있었을 때 보관했던 메모에 대해 이야기하셨습니다. Ilya의 가장 큰 관심사는 Sam이 거짓말쟁이라는 것이었습니다.
그 어느 것도 변하지 않았습니다. 그러면 왜 그를 다시 데려오려고 전쟁을 하였을까요? 이제 결승선에 이르렀으니 모든 우려가 드러난 것 같습니다.
우선 당신의 딸과 내 파트너, 그리고 언론인 주변의 모든 사람들에게 사과드립니다.
[웃음] 모두에게 꽤 주말이었습니다.
예, 그것은 사람의 삶을 장악하고 있으며 이 이야기는 지난 기간 동안 확실히 내 이야기를 담고 있습니다. 내 생각에 그것은 실제로 저널리즘과 정보 접근이라는 주제와 관련이 있는 것 같습니다. Sam을 위해 전쟁에 나섰던 투자자들과 모두 그가 돌아올 수 있도록 역할을 했으며, 성장보다 안전을 우선시하고 신뢰할 수 없는 임원을 해고하려는 비영리 단체의 사명을 보호하기 위해 특별히 고안된 이사회는 사라졌습니다. 그것은 모두 시장 인센티브가 있었기 때문이었습니다. 그렇죠?
Sam은 사람들에게 "글쎄, 회사는 망할 거야"라고 설득할 수 있었습니다. 하지만 그가 지지를 받은 이유는 정보가 부족했기 때문이다. 그 투자자들은 이제 “돌아보면 주장이 무엇인지, 우려사항이 무엇인지 충분히 알았더라면 더 고민을 했을 것 같다”고 말하는 경우가 많다.
전부는 아닙니다.의견은 다양하며 우리는 다양한 의견을 인용하지만 매우 부분적인 정보에 따라 행동한 중요한 의견도 있습니다. Sam을 해고한 보드는 보드에 있던 한 사람의 말에 따르면 "매우 JV"였으며 그들은 공을 세게 더듬었습니다. 그리고 우리는 근본적인 불만 사항을 문서화하고 사람들은 그것이 그들이 느꼈던 긴급한 우려 사항에 축적되었는지 여부를 스스로 결정할 수 있지만 해당 주장과 정보는 제시되지 않았습니다.
그들은 그들 중 일부가 현재 나쁜 법적 조언으로 인정하는 것을 받았습니다. 그것을 설명하기 위해 당신은 인용문을 기억할 것이고 아마도 많은 청취자와 시청자는 그 인용문을 솔직함이 부족하다고 기억할 것입니다. 그것이 그것이 축소 된 것이었고 본질적으로 전화를받지 않을 것입니다.
그들은 전화를 받지 않았습니다. 나는 당신이 노력했다고 확신합니다. 제가 아는 모든 사람들이 노력했고, 저널리스트로서 취재원에게 조언을 해서는 안 되는 지경에 이르렀습니다. 하지만 저는 "스스로 설명을 시작하지 않으면 이 문제는 해결될 것입니다."
그리고 그것이 일어났습니다. 언론인은 잊어버리세요. Satya Nadella가 "도대체 무슨 일이 일어난 거야? 설명해줄 사람이 없어"라고 말하더군요. 그리고 그것은 회사의 주요 재정 후원자입니다. 그런 다음 Satya가 [LinkedIn 공동 창립자] Reid Hoffman에게 전화를 걸고 Reid가 전화를 걸어 "도대체 무슨 일이 일어났는지 모르겠어요."라고 말합니다.
그들은 당연히 정보가 부족한 상태에서 그러한 긴급하고 갑작스러운 발사를 정당화할 수 있는 전통적인 비 AI 지표를 찾고 있습니다. 예, 성범죄였나요? 횡령이었나? 그리고 이 기술은 다르며 이러한 작은 배신의 꾸준한 축적이 이 사업과 아마도 세계 모두에 의미 있는 이해관계를 가질 수 있다는 미묘하지만 의미 있는 주장은 대부분 사라졌습니다. 따라서 자본주의적 인센티브가 승리했지만 이를 만든 사람들도 나가서 항상 완전한 정보를 가지고 운영하지는 않았습니다.
일단 '다들 어떻게 생각하는가'에 대해 묻고 싶습니다. 확실히 뉴스를 보고 '아, 안 좋은 일이 있었나 보다'라고 했기 때문입니다. #MeToo 신고를 많이 하신 것으로 유명하죠. 당신은 하비 웨인스타인 이야기를 깨뜨렸습니다.
당신은 궁극적으로 근거가 없다고 판단한 이러한 주장, 즉 Altman이 미성년자를 성폭행했거나 성노동자를 고용했거나 심지어 OpenAI 내부 고발자를 살해했다는 주장에 대해 많은 시간을 보냈습니다. 내 말은, 이 일을 가장 엄격하게 보고할 수 있는 사람은 당신이라는 것입니다. 아무 일도 일어나지 않았다고 결정하셨나요?
글쎄요, 저는 아무 일도 일어나지 않았다고 말하는 일을 하고 있는 것이 아닙니다. 내가 말할 수 있는 것은 이러한 주장을 조사하는 데 몇 달이 걸렸지만 이에 대한 확증을 찾지 못했다는 것입니다. 그리고 우리의 미래에 대해 막대한 영향력을 갖고 있는 이들 기업이 정말로 유치한 진흙탕 싸움에 너무 많은 시간과 자원을 소비하고 있다는 사실이 저에게는 충격적이었습니다.
한 임원은 이를 “셰익스피어적”이라고 묘사합니다. 사립 탐정의 자금과 반대 서류가 수집되는 양은 끝이 없습니다. 그리고 불행한 점은 샘의 경쟁자들이 앵무새처럼 외치는 그런 종류의 외설적인 것들이 단지 사실로 추정된다는 것입니다. 그렇죠? 그가 미성년 소년을 쫓는다는 주장이 있고, 실리콘밸리의 많은 칵테일 파티에서 이런 말을 듣게 됩니다. 컨퍼런스 순회에서 나는 믿을만하고 저명한 임원들이 “이것이 사실이라는 것을 모두가 알고 있습니다.”라는 말을 반복하는 것을 들었습니다.
슬픈 점은 이것이 어디서 왔는지, 그것이 전송되는 다양한 벡터에 대해 이야기한다는 것입니다. 엘론 머스크(Elon Musk)와 그의 동료들은 겉보기에는 아무 것도 아닌 그런 종류의 정말 하드코어한 서류를 추진하고 있는 것 같습니다. 실제로 기본 주장을 살펴보기 시작하면 그들은 무의미합니다. 슬픈 점은 긴급한 감독과 고려가 필요하다고 생각되는 증거에 기반한 비평을 실제로 모호하게 한다는 것입니다.
이야기에서 실제로 전달되는 또 다른 주제는 Sam이 친구가 너무 많다는 두려움입니다. 그는 이전 Y Combinator의 CEO로서의 역할부터 개인 투자까지 매우 많은 회사에 투자했으며 그 중 일부는 OpenAI의 CEO로서의 역할과 직접적으로 충돌하며 주변에는 침묵이 있습니다.
특히 한 줄을 읽으면서 충격을 받았습니다. Ilya Sutskever의 메모를 설명했는데 그 메모가 실리콘 밸리에 있습니다. 모든 사람그것을 Ilya 메모라고 부릅니다. 하지만 그 주변에는 침묵조차 있습니다. 전달되었지만 논의되지 않았습니다. 그게 어디서 나온 것 같나요? 두려움인가요? 엔젤 투자를 받고 싶은 욕망인가? 그건 어디서 나온 걸까요?
너무 비겁한 것 같아요. 솔직하게 말씀드리겠습니다. 모든 것을 잃고 기소될 내부 고발자들을 출처로 하는 국가 안보 기사를 보도했지만, 그들은 여전히 옳은 일을 하고 책임을 묻는 일에 대해 이야기합니다. 나는 당신이 언급한 성범죄 관련 기사를 작업했는데, 그 내용은 출처가 깊은 충격을 받고 매우 개인적인 보복을 두려워합니다.
이 비트와 관련된 많은 경우, 당신은 자신의 프로필과 힘을 가진 사람들을 상대하게 됩니다. 그들은 자신이 유명한 사람이거나 유명한 사람들에 둘러싸여 있습니다. 그들은 탄탄한 사업 생활을 하고 있습니다. 내 생각에는 실제로 그들이 이 주제에 대해 이야기하는 것은 노출이 매우 적습니다. 그리고 고맙게도 앞서 이야기한 것처럼 바늘이 움직이고 있으며 이제 사람들은 더 많은 이야기를 하고 있습니다.
하지만 오랫동안 사람들은 이에 대해 입을 다물었습니다. 실리콘 밸리 문화는 무자비하게 이기심이 많고 무자비하게 비즈니스와 성장 지향적이라고 생각하기 때문입니다. 그래서 저는 이것이 Sam을 해고하는 데 연루된 사람들 중 일부에게도 영향을 미친다고 생각합니다. 그 후 며칠 동안 보셨던 것처럼, 그가 다시 돌아오고 옛 이사회 구성원이 해고되게 만든 한 가지 요인은 그가 자신의 대의에 혼란스러워하는 투자자들을 모으는 것이었습니다.
하지만 또 다른 문제는 주위에 고민을 갖고 다급하게 목소리를 내는 수많은 사람들이 바람이 반대 방향으로 부는 것을 본 순간 냅킨처럼 접고 곡조를 바꿔 수익 열차에 탑승하고 싶어했다는 것입니다.
기자로서 솔직히 말해서 꽤 어둡습니다.
그 사람들 중 일부는 20분 동안 OpenAI의 새로운 CEO였던 Mira Murati입니다. 그 후 그녀는 교체되었습니다. 그것은 매우 복잡한 역동성이었고 분명히 Sam이 돌아왔습니다. 다른 사람은 Ilya Sutskever입니다. Sam을 제거하기로 한 표에 포함된 사람 중 한 명이 마음을 바꿨거나 적어도 마음이 바뀌었다고 말한 다음 자신의 회사를 시작하기 위해 떠났습니다. 그가 마음을 바꾸게 된 이유가 무엇인지 아시나요? 그냥 돈이었나?
글쎄요, 분명히 말씀드리자면 저는 그 두 가지만을 꼽는 것이 아닙니다. 해고에 연루된 다른 이사회 구성원도 있지만 이후 매우 침묵했습니다. 더 넓은 집단적 문제인 것 같아요. 어떤 경우에는 경보를 울리고 급진적인 조치를 취할 도덕적 의지를 가진 사람들이 있는데, 이는 칭찬할 만합니다. 이것이 바로 책임을 보장하는 방법입니다. 이는 이 기술의 영향을 받는 많은 사람들에게 도움이 될 수 있습니다. 이는 업계가 보다 의미 있게 안전에 초점을 맞추는 데 도움이 될 수 있었습니다.
그러나 내부 고발자와 책임을 묻는 사람들을 대할 때, 자신의 신념을 고수하고 굳건히 서야 한다는 사실도 알게 됩니다. 그리고 이 산업은 자신의 신념을 지키지 않는 사람들로 가득 차 있습니다.
그들은 어떻게든 모든 노동을 없애거나 더 많은 노동을 창출할 디지털 신을 만들고 있다고 생각하지만, 그렇지 않으면 무슨 일이 일어날 것입니다.
글쎄요, 그게 문제입니다. 따라서 자신의 신념을 지키지 않는 문화와 비즈니스에서 자신의 입지를 위협할 수 있는 어떤 열기나 어떤 것이 있는 순간에 모든 윤리적 우려가 무시되는 것은 어떤 종류의 위젯을 만드는 평범한 회사에게는 어느 정도 괜찮고 좋을 것입니다.
그러나 이들은 또한 “이것은 말 그대로 우리 모두를 죽일 수 있다”고 말하는 사람들이기도 합니다. 그리고 다시 말하지만, 터미네이터 스카이넷 극단으로 갈 필요는 없습니다. 이미 구체화되고 있는 일련의 위험이 있습니다. 그것은 현실이고 그들이 그것에 대해 경고하는 것이 옳습니다. 그러나 긴급 경고를 울리고 있는 같은 사람들 속에서 이 두 가지가 어떻게 살아갈 수 있는지 다른 사람에게 심리학적으로 설명하도록 해야 할 것입니다.
이것이 바로 이러한 종류의 일이 글로 작성되지 않고 양탄자 밑으로 휩쓸려 가는 경우를 가질 수 있는 이유이며, 사실 이후 몇 년 동안 아무도 이에 대해 공개적으로 이야기하지 않는 것입니다.
여기서 자연스럽고 책임 있는 당사자는 이들 회사의 CEO가 아닐 것입니다. 그것은 정부일 것이다. 미국에서는 아마도주 정부일 수도 있고, 연방 정부일 수도 있습니다.
확실히 이들 회사는 모두 글로벌화를 원합니다. 여기에는 전 세계적으로 많은 영향이 있습니다. 나는 OpenAI, Google, Anthropic이 모두 Biden 행정부가 AI 행정 명령을 발표하도록 선동하는 것을 보았습니다. 결국 꽤 이빨이 없었습니다. 그들은 단지 그들의 모델이 무엇을 할 수 있는지에 대해 이야기하고 일부 안전 테스트를 공개해야 한다고 말했습니다. 그러다가 그들은 모두 트럼프를 지지했고, 트럼프가 들어와서 모든 것을 말살하고 "우리는 경쟁력을 갖춰야 합니다. 그것은 자유투입니다. 가십시오."라고 말했습니다.
동시에 그들은 모두 오일머니가 많고 경제를 바꾸고 싶어하는 중동 국가들로부터 자금을 모으려고 노력하고 있습니다. 그들은 정치인입니다. 정치인들은 누군가가 양쪽 입으로 말하고 있다는 것을 확실히 이해해야 한다고 생각하며, 결국 누군가가 실망하더라도 너무 화내지 않을 것이지만 정치인들도 태워지고 있습니다. 왜 그렇다고 생각하시나요?
내 생각에 이 작품이 중요한 이유와 이 모든 시간과 세부 사항을 투자할 가치가 있었던 이유가 바로 이것이라고 생각합니다. 우리는 당신이 말했듯이 감독을 제공해야 하는 시스템이 비어 있는 환경에 있습니다. 그것은 돈의 흐름이 매우 자유로운 포스트 시티즌스 유나이티드 아메리카(post-Citizens United America)이며, AI와 관련된 문제가 특히 집중되어 있는 곳입니다. 이곳에는 주 및 연방 수준 모두에서 의미 있는 규제를 무너뜨리기 위해 돈이 급증하고 범람하는 PAC가 있습니다.
Sam의 두 번째 지휘자인 [OpenAI 공동 창립자] Greg Brockman이 이 중 몇 가지에 직접적으로 기여하고 있습니다. 이는 실제로 입법자와 잠재적 규제자를 붙잡는 상황으로 이어지며, 이는 빠져나오기 어려운 나선형입니다. 슬픈 점은 이러한 책임 문제를 해결하는 데 도움이 될 간단한 정책 조치가 있으며 그 중 일부는 세계 다른 곳에서 시험되고 있다는 것입니다.
유럽에서는 프론티어 모델에 대해 이미 진행되고 있는 필수 배포 전 안전 테스트를 더 많이 실시할 수 있습니다. 이 경우 서면으로 작성되지 않은 내용을 확인한 내부 조사 종류에 대해 더 엄격한 서면 공개 기록 요구 사항을 적용할 수 있습니다. Sam Altman이 추진하고 있는 중동 인프라 야심찬 종류에 대해 보다 강력한 국가 안보 검토 메커니즘 세트를 가질 수 있습니다.
당신이 말했듯이, 그는 바이든 행정부와 교대하면서 "우리를 규제하라, 우리를 규제하라"고 말하고 그들이 행정 명령을 작성하도록 도왔고, 트럼프가 들어선 순간, 정말 첫날에 "아부다비에 대규모 데이터 센터 캠퍼스를 가속화하고 건설하자"고 말하며 아무런 방해도 받지 않았습니다. 내부 고발자 보호와 같이 매우 간단한 것입니다. 이 작품에서 방송되고 있는 이러한 종류의 안전 문제를 공개하는 AI 회사 직원을 보호하는 연방법은 없습니다.
OpenAI의 수석 안전 담당자인 Jan Leike가 회사에서 슈퍼 정렬을 주도한 사례가 있습니다. 그는 본질적으로 내부고발자 자료인 편지를 이사회에 써서 회사가 안전 임무에서 궤도를 벗어나고 있다고 말했습니다. 이런 사람들은 실제로 그들이 갈 수 있는 감독 기관을 갖고 있어야 하며, 다른 부문에서 볼 수 있는 것과 같은 명시적인 법적 보호를 받아야 합니다. 이는 Sarbanes-Oxley 스타일 체제를 복제하는 것이 간단합니다.
나는 권력의 모든 수단을 통제하는 실리콘 밸리의 문제가 얼마나 심각하고 감독과 보호막을 제공할 수 있는 이러한 기관 중 일부가 얼마나 비어 있는지에도 불구하고 여전히 민주주의와 이기적인 정치인의 기본 수학을 믿습니다. 그리고 대다수의 미국인이 현재 AI의 우려, 질문 또는 위험이 이점보다 더 중요하다고 생각하는 여론 조사 데이터가 점점 더 많이 나오고 있습니다.
그래서 저는 AI가 정치에 돈을 쏟아 붓는다고 생각합니다. 이를 정치인과 관련하여 물음표의 근원으로 만드는 것은 우리의 모든 힘에 달려 있습니다. 미국인들이 투표하러 갈 때, 그들은 자신이 투표하는 사람들, 특히 이러한 모든 우려를 고려할 때 비판적이지 않고 규제를 반대하는 사람들이 거대 기술 특수 이익 단체의 자금을 지원받고 있는지 면밀히 조사해야 합니다. 그래서 사람들이 이런 글을 읽고, 이런 팟캐스트를 듣고, 비판적으로 생각할 만큼 관심을 가질 수 있다면유권자로서 그들의 결정을 지켜보고 감독을 강요하는 대표자들이 워싱턴에 선거구를 형성할 수 있는 실질적인 기회가 있습니다.
이는 현재 AI 산업에 대해 누군가가 말하는 것을 들어본 것 중 가장 낙관적인 것 중 하나일 수 있습니다. 감사합니다. 나는 당신이 말하는 여론 조사에 집착하고 있습니다. 지금은 많이 있습니다. 모두 꽤 일관적이며, 특히 AI에 노출되는 젊은이가 많을수록 AI에 대한 불신과 분노가 더 커지는 것 같습니다. 이것이 모든 여론 조사의 가치입니다. 그리고 저는 그것을 보고, 음, 예, 똑똑한 정치인이라면 그것에 맞서 싸울 것이라고 생각합니다. 그들은 단지 “우리는 거대 기술 기업에 책임을 물을 것입니다.”라고 말할 것입니다.
그러다가 지난 20년 동안 한 정치인이 빅테크 기업에 책임을 물을 것이라고 말했고, 저는 빅테크 기업이 책임을 져야 하는 순간을 찾기 위해 애쓰고 있습니다. 이것이 다를 수 있다고 생각하게 만드는 유일한 것은 실제로 데이터 센터를 구축해야 하고 이에 반대 투표할 수 있고 이에 대해 청원할 수 있으며 이에 대해 항의할 수 있다는 것입니다.
데이터 센터에 투표했다는 이유로 총격을 받은 정치인이 있다고 생각합니다. 긴장감이 고조되고 있습니다. 저는 그것을 열병이라고 부르고 싶습니다. 실리콘 밸리의 고립성을 설명하셨습니다. 이것은 폐쇄적인 생태계입니다. 그들은 세상을 운영할 수 있다고 생각하는 것 같습니다. 그들은 정치에 막대한 돈을 투자하고 있으며, 사람들이 제품을 좋아하지 않고, 이로 인해 많은 관심을 받지 못한다는 현실에 직면하고 있습니다. 제품을 더 많이 사용할수록 더 화가 나고 정치인들은 자신이 대표하는 사람들보다 기술 산업을 지원하는 것이 실질적인 결과를 낳는다는 것을 깨닫기 시작했습니다.
당신은 너무 많은 사람들과 이야기를 나눴습니다. 기술 산업이 바로 눈앞에 있는 교훈을 배우는 것이 가능하다고 생각하시나요?
당신은 그들이 책임감 없이 세상을 운영할 수 있다고 생각한다고 말했습니다. 나는 "느낌"이라는 한정자가 필요하다고 생각하지 않습니다. 내 말은, Peter Thiel이 사용하는 언어를 보면 명백하다는 것입니다. 물론 그건 극단적인 예이다. 그리고 샘 알트만(Sam Altman)은 어느 정도 Thiel의 이데올로기에 가깝고 그로부터 정보를 얻었지만, 어느 정도는 다르게 들리고 더 측정된 매우 다른 종류의 사람입니다.
하지만 저는 Thiel에게서 얻은 더 넓은 이데올로기가 기본적으로 다음과 같다고 생각합니다. 우리는 민주주의를 끝냈고 더 이상 필요하지 않습니다. 우리는 가진 것이 너무 많아서 우리만의 작은 벙커를 만들고 싶을 뿐입니다. 우리는 더 이상 카네기나 록펠러를 상대하지 않습니다. 그들은 나쁜 놈이지만 그들은 사회 계약에 참여하고 사람들을 위한 무언가를 구축해야 한다고 생각합니다. 진정한 허무주의가 자리잡고 있습니다.
그리고 저는 최근 미국의 거물과 민간 기업이 초정부 권력을 획득하는 동시에 그들에게 책임을 물을 수 있는 민주적 제도가 무너지는 상호 강화적인 나선이었다고 생각합니다. 나는 그 사람들이 어느 날 잠에서 깨어나 "어, 사실 우리도 사회에 참여하고 사람들을 위한 무언가를 만드는 데 도움을 줘야 할 것 같아"라고 생각할 수도 있다는 생각에 대해 낙관적이지 않습니다.
내 말은, 당신은 기부 서약(Giving Pledge)의 소우주적인 예를 보고 있는데, 자선을 베푸는 것처럼 보였던 순간이 있었고, 그 순간은 이제 지나갔고 심지어 조롱당했습니다. 그것은 문제입니다. 책임감 부족이라는 더 넓은 문제는 외부적으로만 해결될 수 있다고 생각합니다. 그것은 유권자들이 정부 감독권을 동원하고 부활시키는 것이어야 합니다. 그리고 사람들이 그것을 달성할 수 있는 주요 벡터는 지역적이라고 말하는 것이 정확히 옳습니다. 인프라가 구축되는 위치와 관련이 있습니다.
폭력과 위협으로 이어지는 이 문제에 대한 뜨거운 긴장감을 언급하셨는데, 당연히 누구도 폭력적이거나 위협을 가해서는 안 됩니다. 그리고 저는 또한 기본적으로 보이고 세계 다른 곳에서 효과가 있는 일부 정책 단계를 제시하는 것 외에 구체적인 정책 권장 사항을 제시하기 위해 여기에 있는 것이 아닙니다. 아니면 다른 분야에서 일해본 사람들. 나는 그 중 어느 것이 어떻게 실행되어야 하는지를 말하기 위해 여기 있는 것이 아닙니다.
저는 뭔가가 일어나야 한다고 생각합니다. 그리고 그것은 단지 이들 회사를 신뢰하는 것이 아니라 외부적으로 이루어져야 합니다. 왜냐면 맞으니까이제 우리는 기술을 개발하고 위험을 가장 잘 이해할 수 있는 장비를 갖춘 회사, 실제로 위험에 대해 경고하는 회사가 빠르게 진행하고 해당 위험을 무시할 인센티브만 있는 상황에 처해 있습니다. 그리고 당신은 그것을 상쇄할 아무것도 없습니다. 따라서 구체적인 측면에서 어떤 개혁이 이루어지더라도 이에 반대되는 것이 있어야 합니다. 그리고 저는 여전히 사람들이 여전히 중요하다는 낙관론으로 돌아갑니다.
나는 일반적으로 당신의 주장을 믿습니다. 제가 분명히 말할 수 있다고 생각하는 작은 반론을 하나 만들어 보겠습니다. 투표함 밖에서 일어날 수 있는 또 다른 일은 거품이 터지는 것입니다. 그렇죠? 이들 기업 모두가 결승선에 도달하는 것은 아니며 소비자 AI 애플리케이션에 적합한 제품 시장이 없다는 것입니다. 그리고 다시 말하지만, 저는 아직 잘 모르겠습니다. 하지만 저는 소비자 기술 리뷰어이고 어쩌면 다른 사람들보다 더 높은 기준을 갖고 있을지도 모릅니다.
비즈니스 세계에는 제품 시장 적합성이 존재합니다. 그렇죠? 다수의 AI 에이전트가 다수의 소프트웨어를 작성하도록 하는 것이 이러한 도구의 실제 시장인 것 같습니다. 그리고 "우리가 코딩을 해결했다는 것은 무엇이든 해결할 수 있다는 뜻이다. 소프트웨어를 만들 수 있다면 어떤 문제도 해결할 수 있다"는 이들 회사의 주장을 읽을 수 있다.
저는 소프트웨어가 할 수 있는 일에는 실질적인 한계가 있다고 생각합니다. 비즈니스 세계에서는 정말 좋습니다. 소프트웨어가 현실의 모든 문제를 해결할 수는 없지만, 거기까지 도달해야 합니다. 그들은 일을 끝내야 하지만, 모두가 결승선에 도달하는 것은 아닐 수도 있습니다. 그리고 충돌이 발생하고 이 거품이 터지며 OpenAI나 Anthropic 또는 xAI 중 하나가 실패하면 이 모든 투자가 사라집니다.
그것이 이것에 영향을 미칠 것이라고 생각합니까? 사실 첫 번째 질문부터 먼저 물어보겠습니다. OpenAI는 IPO를 앞두고 있습니다. 샘이 리더인지에 대한 의구심이 많습니다. 그들이 결승선에 도달할 것이라고 생각하시나요?
나는 예측을 하지는 않겠지만 당신이 시장 인센티브가 실리콘 밸리 내부적으로 중요하다는 중요한 점을 제기했다고 생각합니다. 그리고 현재 버블 역학의 불안정성은 비평가들에 따르면 잠재적으로 안전의 바닥을 향한 경쟁을 방해할 수 있다는 것입니다.
또한 유사하고 뚫을 수 없는 것처럼 보이는 일련의 시장 인센티브와 잠재적으로 대중에게 해로운 영향이 있는 역사적 선례를 살펴보면 영향 소송이 있다는 점을 덧붙이고 싶습니다. 그리고 최근에는 그것이 우려되는 부분이라고 보시는군요. 예를 들어 Sam Altman은 이번 주에 OpenAI가 부당 사망 소송에서 노출된 일부 유형의 책임으로부터 AI 회사를 보호하는 법안을 지지했습니다. 물론 책임으로부터 보호받고 싶은 욕구도 있습니다.
저는 법원이 여전히 의미 있는 메커니즘이 될 수 있다고 생각하며 이러한 소송이 어떻게 진행되는지 보는 것은 정말 흥미로울 것입니다. 예를 들어, 저와 제가 아는 다른 많은 작가들이 저작권이 있는 도서를 사용한 것에 대해 Anthropic을 상대로 집단 소송을 벌인 것을 이미 보신 적이 있습니다. 만약 우리가 역사적으로 대형 담배부터 대형 에너지에 이르기까지 사례에서 보았듯이 현명한 법률적 사고와 관심을 갖고 있는 원고가 있다면 속도를 늦추거나 주의를 기울이거나 그런 식으로 사람들을 보호할 수 있는 가드레일과 인센티브를 얻을 수도 있습니다.
AI 산업의 전체 비용 구조가 공정 사용에 대한 매우 자비로운 해석에 달려 있는 것처럼 느껴집니다. 충분히 나오지 않습니다. 이러한 회사의 비용 구조는 귀하와 자신이 수행한 작업의 모든 사람에게 비용을 지불해야 한다면 통제할 수 없을 정도로 커질 수 있지만 생각하기 불편하므로 우리는 그것에 대해 생각하지 않습니다. 그 바로 옆에는 지금 이 제품들이 모두 적자 상태로 돌아가고 있습니다. 오늘처럼 그들은 모두 헤매고 있습니다. 그들은 벌 수 있는 것보다 더 많은 돈을 쓰고 있습니다. 어느 시점에서는 스위치를 뒤집어야 합니다.
샘은 사업가입니다. 여러 번 말씀하셨듯이 그는 기술자가 아닙니다. 그는 사업가입니다. 그가 스위치를 켜고 "우리는 1달러를 벌 수 있을까?"라고 말할 준비가 되어 있다고 생각하시나요? 왜냐면 내가 “OpenAI가 성공할 것이라고 생각하시나요?”라고 물으면, 그들이 달러를 벌어야 할 때입니다. 그리고 지금까지 샘은 자신의 회사가 돈을 벌게 하는 대신 다른 사람에게 돈을 요구하여 돈을 모두 벌었습니다.
글쎄요, 그것은 실리콘 밸리, 투자자, 대중에게 여전히 남아 있는 큰 질문입니다.이에 대한 일종의 패닉을 나타내는 것처럼 보이는 몇 가지 진술과 OpenAI에서 나온 움직임을 볼 수 있습니다. Sora를 종료하고, 일부 보조 프로젝트를 종료하고, 핵심 제품에 집중하려고 합니다. 하지만 동시에 동시에 수많은 미션 크립도 볼 수 있습니다. 그렇죠? 작은 예라도 — 분명히 비즈니스의 핵심은 아니지만 — TBPN 인수가 있습니다.
그건 그렇고, 우리가 결승선에 도달하고 사실 확인을 하고 있는 바로 그 순간, 이런 종류의 언론 조사에 직면한 회사는 대화를 보다 직접적으로 통제할 수 있는 플랫폼을 확보했습니다. 제가 나눈 대화에 따르면, 모든 사람에게 모든 것을 약속하는 이러한 문제가 핵심 비즈니스 모델에 대한 집중 부족으로까지 확대되는 것을 우려하는 투자자가 많이 있다고 생각합니다. 그리고 내 말은, 당신은 아마도 나보다 시장을 예측하고 관찰하는 유형에 더 가깝다는 것입니다. OpenAI가 스위치를 바꿀 수 있다고 생각하는지 판단하는 것은 여러분과 청취자에게 맡기겠습니다.
제가 이 질문을 한 이유는 Microsoft 고위 임원의 글에서 인용한 내용이 있기 때문입니다. "Sam의 유산은 결국 Steve Jobs보다는 Bernie Madoff나 Sam Bankman-Fried와 더 비슷해질 수도 있습니다"라는 것입니다. 상당히 비교가 됩니다. 그 비교를 통해 어떤 생각이 드셨나요?
나는 그것이 의역이라고 생각합니다. 스티브 잡스 부분은 인용문에 포함되지 않았습니다. 하지만 "그가 SBF나 Madoff 수준의 사기꾼이 될 가능성은 작지만 실제적인 가능성이 있다고 생각합니다."와 같이 표현되어 있기 때문에 흥미로운 종류의 절주가 있습니다. 내 생각에는 샘이 특정 유형의 사기나 범죄로 기소된 것이 아니라 샘의 위장과 속임수 정도가 궁극적으로 그 규모로 기억될 가능성이 있을 수 있다는 의미입니다.
네, 솔직히 그 인용문에서 가장 인상적인 점은 Microsoft에 전화를 걸어도 "말도 안 되는 소리야. 우리는 그런 말을 들어본 적이 없어"라는 말을 듣지 못한다는 것입니다. “네, 여기 많은 사람들이 그렇게 생각해요”라는 말을 많이 듣게 되는데, 이는 놀랍습니다. 그리고 저는 이것이 이러한 기본 비즈니스 질문에 해당한다고 생각합니다.
예를 들어, 한 투자자는 이 특성이 해고 후 몇 년 동안 지속된 방식에 비추어 나에게 말했습니다." 그리고 이것은 또한 이것이 흥미롭고 냉철한 생각이라고 생각했습니다. Sam이 반드시 목록의 맨 아래에 있어야 하는 것은 아니며, 이 기술의 가치에 대해 절대적으로 구축해서는 안 되는 사람들의 관점에서 가장 낮은 사람이어야 하는 것은 아닙니다. Elon Musk가 그 사람이라고 말하는 사람이 여러 명 있습니다. 그러나 이 특성으로 인해 그는 아마도 목록의 맨 아래에 있을 수 있습니다. AGI를 구축해야 하며 이 분야의 다른 여러 주요 인물 아래에 있어야 합니다.
그래서 저는 그것이 흥미로운 평가라고 생각했습니다. 그리고 그것은 안전 문제를 그다지 받아들이지 않는 실제 실용주의자에게서 얻을 수 있는 생각입니다. 그들은 단지 성장 지향적이며 OpenAI가 이제 Sam Altman에게 문제가 있다고 생각합니다.
Microsoft 작품은 정말 흥미 롭습니다. 그 회사는 자신들이 세계 최고라고 생각했습니다. 그들은 이 투자를 했고 모든 사람, 특히 가장 중요하게는 Google을 뛰어넘어 소비자의 좋은 은혜로 돌아갈 것이라고 말했습니다. 그들이 이 모험(이 회사는 매우 냉정하게 운영되는 회사임)으로 인해 지쳐 있다고 느끼는 수준은 아무리 강조해도 지나치지 않습니다.
캐릭터와 성격 특성을 언급하셨습니다. 청취자들의 질문으로 마무리하고 싶습니다. 나는 다른 쇼인 The Vergecast에서 당신과 이야기를 할 것이라고 말하면서 "이 이야기에 대해 Ronan에게 질문이 있으면 알려주십시오. "라고 말했습니다. 그래서 여기에 당신이 설명하는 것과 깔끔하게 연결되어 있다고 생각하는 것이 있습니다. 나는 당신에게 그것을 읽어줄 것입니다:
“Altman과 다른 AI 리더들의 나쁜 행동, 잔혹한 행동에 대한 정당화는 Ronan이 정치 및 미디어 분야의 다른 유명 리더들로부터 들었던 정당화와 어떻게 다릅니까? 세상은 이렇게 변한다고 다들 자신의 행동을 정당화하지 않는가? 내가 안 하면 다른 사람이 하겠나?”
네, 그런 일이 많이 일어나고 있습니다. AI의 독특한 점은 실존적 위험이 매우 높다는 것은 두 가지 위험 진술이 모두 극단적이라는 것을 의미한다는 것입니다. 그렇죠? 샘 알트먼이 있어요"이것은 우리 모두에게 소등이 될 수 있습니다." 그리고 비평가들은 질문자가 말하는 광기가 극단적이라고 말할 수도 있습니다. 그렇죠?
기록상 Sam이 Elon을 비난한 것은 그가 인류를 구하고 싶어할 수도 있다는 것이었습니다. 그러나 그것이 그 사람일 경우에만 가능합니다. Sam이 항상 사용하는 틀인 이기고 싶은 자아 구성 요소와 이것이 역사 책에 대한 것인 것은 모든 것을 바꿀 수 있습니다. 따라서 대부분의 실리콘밸리 기업의 "계란 몇 개를 깨뜨려야 한다"는 사고방식을 넘어, AI를 이끄는 일부 인물들의 마음 속에는 모든 낙진에 대한 완전한 합리화가 있다고 생각합니다.
그리고 계란 깨는 것도 잊어버리세요. 나는/ 많은 기본 안전 연구자들이 잠재적으로 국가를 무너뜨리고, 세상을 무너뜨리고, 직업과 안전이 균형을 이루고 있는 수백만 명의 사람들을 무너뜨릴 위험이 있다고 말할 것이라고 생각합니다. 이것이 바로 그것이 독특한 점입니다. 이것이 바로 이 보도 내용을 되돌아보며 이것이 Sam Altman 이상의 의미가 있다고 믿으며 마무리하는 부분입니다. 이는 제약이 없는 산업과 이를 제약할 수 없는 미국의 문제에 관한 것입니다.
응. 글쎄요, 거기에는 약간의 낙관론이 있었지만 제 생각에는 그것을 그대로 두는 것이 좋은 것 같습니다.
[웃음] 우울하게 끝나요.
물론. 정말 멋진 이야기입니다. 머스크-알트만 재판이 곧 진행될 예정이다. 우리는 여기서 더 많은 것을 배울 수 있을 것 같아요. 아마 당신과 다시 얘기하고 싶을 것 같아요. Ronan Farrow 씨, Decoder에 참여해주셔서 정말 감사드립니다.
감사합니다.
이 에피소드에 대한 질문이나 의견이 있으신가요? [email protected]으로 연락주세요. 우리는 정말로 모든 이메일을 읽습니다!
