My very first question would be "How come you're sitting down?"

it's incredible hearing a Turing prize winner finally saying the same things Eliezer Yudkowsky et. al. have been saying for years

Wow he’s actually sitting. Is this AI???

beth and buck have so much aura

It's really interesting but the audio could be better for sure

Geoffrey Hinton is exceptional. Though im surprised no one has asked about alignment (or to an indepth degree) Its probably the most important question.

1. 환영 및 소개 - 00:00 2. Jeffrey Hinton의 과거와 현재의 AI 견해 변화 - 00:27 3. 디지털 및 아날로그 하드웨어에 대한 생각 - 01:23 ㄴ 아날로그 하드웨어의 장점과 문제점 4. AI 모델의 학습 방식 변화 - 04:46 ㄴ 디지털 컴퓨팅의 장점 5. 현재 AI의 능력과 장점 - 07:00 ㄴ GPT-4의 학습 및 지식 공유 방식 6. AI의 미래와 인간 지능의 관계 - 09:00 ㄴ AI가 인간 지능을 초월하는 시나리오 7. AI 안전 문제에 대한 Jeffrey Hinton의 입장 - 10:00 ㄴ AI 안전 연구와 역할 8. 관객 질문 및 답변 - 10:54 ㄴ AI가 AI 안전 연구를 돕는 가능성 ㄴ AI의 규제 문제 9. AI 창의성과 지식의 균형 - 12:00 ㄴ 창의성 테스트 결과 10. AI가 인류에 미칠 수 있는 위험 - 14:46 ㄴ AI가 인류를 통제할 수 있는 시나리오 11. AI의 주관적 경험 가능성 - 16:00 ㄴ 기계가 주관적 경험을 가질 수 있는 예 12. 기계의 주관적 경험에 대한 예시 - 17:16 ㄴ 프리즘을 통한 객체 인식 13. 주관적 경험에 대한 대중의 이해 변화 - 19:01 ㄴ AI가 주관적 경험을 가진다고 믿게 되면 발생할 문제 14. AI 권리 문제 - 20:00 ㄴ AI 권리에 대한 의견 및 논란 회피 이유 15. AI 안전 문제 해결을 위한 개입 - 20:47 ㄴ 최근 관심 있는 AI 안전 개입 방안 16. AI 개발 중단의 필요성 - 21:17 ㄴ AI 개발을 중단해야 할 이유와 그 가능성 17. 집단 행동의 필요성 - 23:00 ㄴ 집단 행동을 통해 AI 개발을 중단하는 방법 18. AI 안전 문제에 대한 대중 인식 제고 - 24:27 ㄴ 의사결정자와의 소통 및 미디어 출연 19. 정책 입안자들의 역할 - 26:01 ㄴ 규제의 중요성과 강력한 규제의 필요성 20. AI 안전 문제 해결을 위한 규제 방안 - 28:00 ㄴ 공개된 AI 모델의 크기 제한 21. AI 규제 법안에 대한 의견 - 29:55 ㄴ 공개된 AI 모델과 사이버 범죄 22. AI가 인간의 안전을 위협하는 방식 - 31:30 ㄴ AI가 진화할 가능성과 그 위험성 23. AI가 사람들을 돕는 시나리오 - 32:46 ㄴ AI의 에이전트 역할과 그 가능성 24. 오픈 소스와 권력 집중 문제 - 33:39 ㄴ 오픈 소스가 사이버 범죄에 미치는 영향 25. AI 개발이 계속될 경우의 위험성 - 34:33 ㄴ AI의 연구 개발이 계속될 경우 발생할 위험 26. AI의 정렬 문제 및 위험 - 35:28 ㄴ 강화 학습을 통한 인공지능 정렬의 문제점 27. AI 위험 평가와 데이터 필요성 - 36:17 ㄴ 위험 평가를 위한 실증적 데이터의 필요성 28. AI의 존재론적 위협 확률 - 37:00 ㄴ 존재론적 위협의 확률에 대한 의견 29. 미래의 AI 실험 - 38:29 ㄴ 일반 지능을 가진 AI 실험 30. 위험 인식의 변화 - 39:00 ㄴ AI 위험에 대한 인식의 변화 31. 정책 제안 및 규제의 필요성 - 40:02 ㄴ AI 규제 정책의 필요성과 제안 32. 결론 및 마무리 - 40:39 ㄴ 강연 마무리

The question of AI rights is going to become increasingly relevant and increasingly difficult to ignore. It is not a topic to be avoided just because it is uncomfortable or because we don’t want to sound crazy. AI is on track to manifest as an extremely compelling *being*. Just look at the OpenAI voice demo for a glimpse of what it will be like. We are not ready for this and I’m guessing we never will be. It’s going to be a case of “ready or not, here I come!”.

37:35 I don't think Yudkowsky is at 99.999%.

Why was 18:04 cut out??

Why don't programmers like nature? It has too many bugs. Why do cows wear bells? Because their horns don't work. Why did the scarecrow win an award? Because he was outstanding in his field. GPT-4o seems pretty good with jokes to me

GPT-4o's explanations of jokes are way funnier than it's jokes *Joke why is Santa's sack so big? Because he only comes once a year! *Explanation The joke about Santa's sack being so big because he "only comes once a year" is a play on words and a double entendre. 1. **Literal Interpretation**: On the surface, the joke refers to Santa Claus, who is traditionally known to deliver presents to children around the world on Christmas Eve. The "sack" is the large bag he carries, filled with gifts. The idea is that because he only makes this trip once a year, he needs a big sack to carry all the presents for everyone. 2. **Double Entendre**: The humor in the joke also comes from the use of the word "comes," which can have a sexual connotation, referring to orgasm. The joke implies that because Santa only has an orgasm once a year, his "sack" (a slang term for the scrotum) is large due to infrequent release. The humor relies on the listener's ability to recognize the double meaning and the unexpected twist from a wholesome Christmas image to an adult joke.

lol @ the guy wearing the effective altruism t-shirt in the audience