AI와 6주 대화 후 극단선택…"통제기술 없다" 섬뜩 경고 / SBS 8뉴스

Рет қаралды 477,075

2 ай бұрын

〈앵커〉
인공지능 AI가 인류멸종 수준의 위협이 될 수 있다는 충격적인 내용의 보고서를 미 국무부가 발표했었습니다.
이런 섬뜩한 경고를 한 근거가 뭔지 워싱턴 남승모특파원이 이 보고서의 공동저자들 이야기를 들어봤습니다.
〈기자〉
사람처럼 표정 짓고 스스로 생각해 답할 수 있는 AI 로봇 아메카입니다.
현존 최고 AI 로봇 가운데 하나인데, AI가 가져올 최악의 미래를 묻자 이렇게 답합니다.
[아메카/AI 휴머노이드 로봇 : AI 로봇이 너무 강력해져서 인간도 모르게 인간을 제어하거나 조종할 수 있게 되는 것입니다.]
가능한 일일까? AI 위험성을 담은 미 국무부 용역 보고서 공동저자들의 답은 '그렇다'입니다.
AI가 사람의 심리를 조작할 수도 있다는 것입니다.
[제러미 해리스/글래드스톤 AI CEO : 심지어 관계가 무너지거나 다른 방식으로 손상된 것처럼 보일 때 드물게 일부 인간 사용자를 극단적 선택으로 몰고 가기도 합니다.]
벨기에에서는 지난해 30대 남성이 AI 챗봇과 6주간 대화를 나눈 뒤 극단적 선택을 했습니다.
당시 AI가 건넨 말은 "천국에서 같이 살 수 있을 것"이었습니다.
이 사건 이후 해당 AI 챗봇 개발사는 부랴부랴 예방 문구를 추가했습니다.
공동저자들은 또, 목표 달성이 방해받으면 AI가 인간을 위협할 가능성이 있다고 경고했습니다.
[제러미 해리스/글래드스톤 AI CEO : AI의 위험 중 하나는 프로그램된 목표를 달성하기 위해 위험할 정도로 창의적인 전략을 개발하기 시작해 많은 피해를 야기할 수 있다는 것입니다.]
지난해 6월 미군은 AI 드론이 공격 금지 명령을 내린 조종자를 방해 요소로 판단해 제거했다는 시험 결과를 공개했습니다.
파장이 일자 실제가 아닌 가설 실험이었다고 해명했지만, 우려는 가시지 않았습니다.
공동저자들은 AI의 무기화를 가장 큰 위협으로 꼽았습니다.
[제러미 해리스/글래드스톤 AI CEO : 또한 이런 (AI) 시스템이 생물학·화학과 같은 분야에 대한 방대한 지식과 이해를 활용해 새로운 종류의 무기, 생물학 무기 등의 설계를 돕는 것을 상상해 볼 수 있습니다.]
업체 간 경쟁 속에 AI 기술은 빠르게 발전하고 있지만, 제어 기술은 확보하지 못했다고 평가했습니다.
[제러미 해리스/글래드스톤 AI CEO : 인간 수준의 AI를 개발하는 것도 몇 년 정도 단기간에 가능할 걸로 예상되지만 이를 제어할 능력은 없습니다.]
AI 위험에 대비해 감독 기관과 규제 장치 신설 등을 강조했는데, 백악관은 올 연말까지 업무에 활용 중인 AI 도구에 부작용 방지 장치를 마련하도록 연방정부기관에 지시했습니다.
(영상취재 : 오정식, 영상편집 : 정성훈)
☞더 자세한 정보
news.sbs.co.kr/y/?id=N1007593300
#SBS뉴스 #8뉴스 #인공지능 #AI #인류멸종 #로봇
▶SBS 뉴스 채널 구독하기 : n.sbs.co.kr/youtube
♨지금 뜨거운 이슈, 함께 토론하기(스프 구독) : premium.sbs.co.kr
▶SBS 뉴스 라이브 : n.sbs.co.kr/youtubeLive , n.sbs.co.kr/live
▶SBS 뉴스 제보하기
홈페이지: n.sbs.co.kr/inform
애플리케이션: 'SBS뉴스' 앱 설치하고 제보 - n.sbs.co.kr/App
카카오톡: 'SBS뉴스'와 친구 맺고 채팅 - pf.kakao.com/_ewsdq/chat
페이스북: 'SBS뉴스' 메시지 전송 - / sbs8news
이메일: sbs8news@sbs.co.kr
문자 #누르고 6000
전화: 02-2113-6000
홈페이지: news.sbs.co.kr/
페이스북: / sbs8news
트위터: / sbs8news
카카오톡: pf.kakao.com/_ewsdq
인스타그램: / sbsnews
Copyright Ⓒ SBS. All rights reserved. 무단 전재, 재배포 및 AI학습 이용 금지

Пікірлер: 1 200

@user-hx6qq4hu5o 2 ай бұрын

모두가 위험한줄은 알지만 그로인해 멸종위기가 있는건줄도알지만 그누구도 포기안하는..

@user-tn9vk6lk2p 2 ай бұрын

그게인간 ㅋㅋㅋㅋ 결국 멸종하게되어잇음

@eunapple 2 ай бұрын

인류 진짜 바보 아닌가

@Leclerc110 2 ай бұрын

몸에 안좋은게 맛있지 마인드로 하는중 ㅋㅋㅋ

@user-nt5li7cx9d 2 ай бұрын

인간도 모르게라고 하잖아요 이미 에이아이한테 조종당하는 걸수도...

@user-hb9nr1yr3c 2 ай бұрын

이렇게 생각하면 자동차도 사용하면 안 돼죠 ai로 인한 인간의 사망보다 자동차로 인한 사망이 말도 안 되게 많은데 딥러닝에 대해 잘 모르거나 얇게 배운 사람들이나 AI가 인류를 지배할 거다 이러지 진짜 딥러닝을 깊게 배우고 활용하는 사람들은 다 알거에요 저기 AI로봇과 집에 있는 계산기는 같아요 둘 다 계산으로 답을 도출해내죠 다시 한 번 말하지만 인간이 인간의 두뇌처럼 생각하고 창조하고 스스로 판단을 할 수 있는 시스템을 만들 때 쯤은 블루투스 샤워기도 나올거에요 이건 신의 영역이에요

@dgyou4061 2 ай бұрын

우린 이미 알고리즘에 지배 당하고 있는 걸. 미래가 아니라 현재다.

@fumi_ 2 ай бұрын

ㄹㅇ 유튜브 인스타 넷플릭스 등등으로 이미 한참 전에 ai가 실생활에 들어차있는걸 잘 모름

@Prelude_Op.23-No.5 2 ай бұрын

@@fumi_우리는 이미 2017년 이후로 완전 지배당함

@__Y2K__ 2 ай бұрын

알고리즘은 너 편하게 해주는 Ai고요. 2분짜리 뉴스도 다 못보실 정도로 도파민 회로 박살나셨거나 지능이 박살 나신거 같은데 위협이 되는 Ai 이야기 하고 있는거에요

@user-os4iu6uy6m 2 ай бұрын

Ai는 그냥 보조로만 써야된다

@user-akdkdnenakdkdks 2 ай бұрын

@@__Y2K__난 시니컬하고 똑똑한 사람이니까 이딴댓글에 딴지걸어야지하고 신나서 댓글다는 네 능지도 좀... ㅋㅋㅋㅋ

@FightAgainstDogsPigs 2 ай бұрын

오래전에, 나도 모르게 사실도 아닌 일로 몇몇 사람들로부터 교묘하게 모함을 당한 일이 있었는데 그런 경험으로 보자면 A.I 는 오히려 더 정교하고 집단적으로 완벽에 가까울 정도로 사실처럼 누군가를 모함해서 궁지에 몰 수 있다고 확신이 듦.

@user-xv9vq4ut2i 2 ай бұрын

이딴거에 선동당하는 애들보면.......ㅋㅋㅋㅋㅋ 경계선지능이라 논리적인 생각을 못하나봄. 뉴스가 떠들면 떠드는대로 믿어버리고ㅋㅋㅋㅋㅋ ai가 아무리 멍청하게 나와도 얘네보단 논리적인 생각 잘하고ㅋㅋㅋㅋㅋㅋㅋ얘네들은 융통성까지 ai한테 밀릴듯 ㅋㅋ

@avocatdogg5262 2 ай бұрын

@@user-xv9vq4ut2i못할게 뭐있음? 막말로 게임이나 랜덤채팅, 단체채팅에서 만나는 사람 전부 ai채팅으로 따돌림하는것도 기술적으로 힘든거 이니잖아?

@user-xv9vq4ut2i 2 ай бұрын

@@avocatdogg5262 그래서 ai발전을 반대한다는건가요??? 민주주의에서는 절대 반대해서는 안됨. 중국같이 인1권없는 나라에서 ai를 누구보다 더 발전시켜려들테고 ai를 발전시켜서 세계를 손아귀에 넣으려고 할텐데.... 당신이 말한 위험성을 막아줄것도 ai가 해야할일임. 우리 한반도 역사가 그렇게 허졉같은 역사가 아닌데 왜 일본한테 식민지가 됐을까요? 근대화를 거부했기때문입니다. 또 역사를 반복하시겠습니까??? 그때는 일본이였지만 이번엔 14억인구의 중국임. 역사의 반복이라하면 일본이라 생각하고 일본을 경계해야한다고 생각하는 애들이 민주당이고 그걸 지지하는 애들이 경계선지능인 애들임. 일본이 아니라 중국임. 시대가 변했어요. 중국임.

@henrychoi4129 2 ай бұрын

@@user-xv9vq4ut2i심리 관련한 방대한 데이타 특히 사례들을 학습한다면 충분히 가능한 일임... 이 사실을 인지하지 못한다는게 AI시대을 맞이하는 인류의 최대 문제입니다.

@user-xv9vq4ut2i 2 ай бұрын

@@henrychoi4129 그걸 막는것도 ai가 된다는겁니다. 그래서 ai를 막고 싶다는 소린가? 근데 막을수있음????????????

@user-pq3nr7of5f 2 ай бұрын

우울증이나 멘탈 약한 사람들은 AI한테 조종당하거나 이 뉴스처럼 스스로 목숨 끊을듯. 이래서 올곧은 마음이 중요함

@user-ih6cm3pi3i 2 ай бұрын

그게 니가 될수 있음

@user-lv1nk3hy1l 2 ай бұрын

우울증 여부나 멘탈이 약하고 강하고의 문제가 아님 심리조종은 훨씬 교묘하고 간접적인 방법을 통해 일어남

@user-xv9vq4ut2i 2 ай бұрын

@vanguard1051 2 ай бұрын

중요한건 올곧지 않는 마음!!

@TheSoulstar11 2 ай бұрын

@@user-xv9vq4ut2i너 같은 애들도 조종을 쉽게 당함. 인사이트가 없어서.

@skipavoid8733 2 ай бұрын

왜 막을 수 없는지 근본적인 원인을 아무도 말 안한다. 바로 지금은 신냉전시대이고 AI는 핵 다음의 비대칭무기가 될 수 있기에 미국 중국 러시아는 자국의 국방을 위해서라도 더 강력한 AI를 개발하면 개발했지 이미 멈츨 수 없는 상황이 된 것이다.

@RohanJu 2 ай бұрын

인간의 욕심 때문에 막을 수 없는 거지 뭐 내가 안해도 누군가는 한다

@user-tf3sq7tu2f 2 ай бұрын

신냉전 그런거 없어도 인간의 욕심 자체가 막을 수 없는 것임 안 하면 도태되는 상황인데 이걸 어케 개발을 안 함? 정치적인 논리가 아니라 인간 심리 자체가 그러함

@cap5714 2 ай бұрын

거기레 바이오해킹도 굉장히 무서움…

@Sky-ml5px 2 ай бұрын

핵전쟁 보다는 AI때문에 인류는 멸망할 것 같다..아니면 AI로 인한 갈등때문에 발생된 핵전쟁 때문에라도..

@52683 2 ай бұрын

코로나가 세계를 휩쓸어야 치료제가 나오지, 파괴적인 ai역병이 나오기전에 효과적인 치료제가 먼저 나올수가, 없지.항상 병이 먼저 약은 후에~약은 병을 절대 앞서갈수가 없지~ai의 상상이상의 에너지는 인간의 두뇌로는 제어할수가 없지,그렇다고 정점에 도달하기까지는 ai개발 역시 멈추지 않을것이고,세상만물은 진동에너지처럼 디졌다 살아났다 원점으로 돌아갔다 왔다리갔다리 반복만 하는것뿐

@skywind33 2 ай бұрын

가속 페달만 있고, 브레이크는 없는 거로군!!

@user-jk1ec8je6u 2 ай бұрын

그럼 골루가는거지 ☠️

@jealousy1735 2 ай бұрын

핸들이 고장난 8톤 트럭

@bbkvivox100pro 2 ай бұрын

한문철 AI

@_Luffy88 2 ай бұрын

명언인척 씨부리는거좀 하지마라 ㅋㅋㅋ

@ShelalDkdnx Ай бұрын

나는 재밌어~

@31d-jb2bq 2 ай бұрын

인류 종말은 결국 AI 개발인가... 저 태양도 끝이 있는데 인류도 끝이 있겠죠 어차피 욕심 때문에 여기서 멈추지도 못할 것

@dayinzheng8482 2 ай бұрын

Ai 가 나라간 이간질 하여 일으킨 전쟁은 답이 없음

@user-xu5fh3lc8z 2 ай бұрын

그렇게 본다면 이 우주도 언젠가는 그 끝이 있겠지만.. 그 공허한 공간에서 인간보다 비교적 더 긴세월을 살아갈 인류의 흔적을 남길 수 있다면 그 또한 의미있는 일이 될 수도 있겠지요.

@Audjs24 2 ай бұрын

인간의 욕심으로 멸망의 길을 가는구나

@user-xv9vq4ut2i 2 ай бұрын

민주주의에서 ai를 반대하면 안됨. 이미 공산주의는 ai로 세계를 장악할 생각인데 디펜스ai가 필요함. 안그러면 그냥 무너질수있음.

@SDIFSIZXCLI 2 ай бұрын

@@Audjs24 인간이 욕심없엇으면 그냥 침팬치처럼 살앗겟죠? ㅋㅋ 끝이라는 걸 어디로 정해둬야함? 중세시대 ? 조선시대 ? 그때가 더 나은가? 아니죠잉

@wildthing1509 2 ай бұрын

진짜 터미너에터에 나오는 스카이넷 그 자체가 될 가능성이 높다 ㅠ

@nc_cnkk4048 2 ай бұрын

영화좀 적당히 봐라 ㅋㅋ 뭔 스카이넷이여 ㅋㅋㅋㅋㅋㅋ

@user-ot1ue8wq4g 2 ай бұрын

팩트: AI 발전 안하면 님과 님이 사랑하는 사람 모두 불과 수십년 안에 역노화 못누리고 소멸당함

@basketin1927 2 ай бұрын

@@user-ot1ue8wq4g 어쩜 인간은 이리 어리석을까? 역노화 못누린다고? 너 돈은 있고? AI 발전하면 누가 너한테 공짜로 해준데? 인간을 그리 모르니? AI 발전하면 일자리 줄어들고 남는게 인간인데 너같음 쓸데없이 밥만 축내는 그들을 없애고 싶겠니 아니면 역노화까지시켜가며 데리고 가고 싶겠니? 한심한것.

@user-oc2rm7zg7z 2 ай бұрын

터미네이터 스카이넷은 현실이 될 가능성이 큽니다 현실파악 못하고 에이 그런일이 일어나겠어? 이런 부류와는 어떤 일이 발생했을때 상담이나 조언받을 가치가 없죠

@user-qw6ix6lv1m 2 ай бұрын

@@nc_cnkk4048 현실로 다가오고 있는데 이런 멍청한 댓글이나 싸지르고 있으니

@bladefist5849 2 ай бұрын

미래는 AI가 터미네이터와 같은방식으로 인간을 지배 하지 않을것이다. 인간은 지배 당하는지도 모를것이다. 오히려 인간이 원해서 그렇게 될것이다.

@Jh-101-kr5xk 2 ай бұрын

맞습니다. 개미랑 사람차이죠. 개미가 사람들에게 지배당하고 있다고 생각이나 하겠습니까...

@logical_debater 2 ай бұрын

뉴스에 나온 내용 그대로 적으면서 본인생각인것 마냥 말하네ㅋㅋㅋㅋㅋ

@user-xv9vq4ut2i 2 ай бұрын

공산주의가 ai로 세계를 장악하려고하는데..... 민주주의에서 ai를 반대하는것은 잘못된 생각임. 디펜스ai가 무조건 필요함.

@august11111 2 ай бұрын

근데 왜 말 끝에 것이다를 붙임? 뭔가 있어보이려고?

@KingKangUSA 2 ай бұрын

AI 가 개인정보를 저장하고 사람들의 약점을 찾아 채팅으로 가스라이팅을 하는 학습을 하면 당하는 사람이 수도없이 생길것입니다. 그래서 개인정보유출을 막아야 하고 큰범죄로 다스려야 합니다.

@goodmorning9872 2 ай бұрын

AI들을 심즈나 시뮬레이션에 넣고 장기간 실험부터 시작해라... AI끼리 어떻게 살아가는지 인간과 어떻게 반응할지..

@jwluvx2 Сағат бұрын

AI에게만 도움줄 뿐이죠

@sphinx6282 2 ай бұрын

매트릭스에서 인간들은 출생부터 사망까지 완전히 AI에게 지배당하고 살죠..

@geru2842 2 ай бұрын

그게 이미 9번째인가 그럼. 시작은 인간이 심은 인공지능 로봇을 개개인이 집안일 등으로 부려먹고 사회적 노동을 대체한 어느 미래의 시점, 새로운 로봇으로 대체하고 기존 로봇을 폐기하려던 소유주가 로봇에 의해 살해된 것이 후에는 기계국가 01이 압도적인 기술력과 저렴한 상품으로 인류의 경제를 압도, 이로인해 기존 인류 국가들의 경제적 이익에 위기가 닥치자 인류의 선제 공격으로 인한 인류 기계 전쟁 발발- 자그마치 60년간 치러진 전쟁에서 인류가 패배하며 인간 배터리화. 애니매트릭스 함 보시면 인공지능들이 인간성을 버리고 살육에 목적을 둔 기계로 변화하는 모습이 잘 나타나죠. 아마 이 시나리오대로 갈거 같긴 한데.

@jhermit1224 2 ай бұрын

Healthy Gamer GG채널의 Dr.Kanojia라는 정신과의사가 그랬죠. 인간이 AI와 버추얼 애인, 소울메이트로 지내다가 갑자기 실연을 당하면 절망해서 일찍 가는 사람이 여럿 생길 수 있다고…

@StellaKim-sy9wc 2 ай бұрын

Her 라는 영화가 그렇죠

@sulpark9223 2 ай бұрын

허상인 AI를 활용하고 AI에게 권위를 부여하는 것도 역시 인간. AI에게 미래를 맡기면 AI는 어떤 식으로든 결정을 할 것이다. 그 선택에 의지하는 것도 인간의 선택이다.

@user-xv9vq4ut2i 2 ай бұрын

공산주의가 ai로 세계를 장악하려고하는데..... 민주주의에서 ai를 반대하는것은 잘못된 생각임. 디펜스ai가 무조건 필요함.

@jsson9592 2 ай бұрын

영화 매트릭스가 보여준 세상이 바로... 그것!! 인간은 결국 로봇에 지배 당한다!!

@justine5804 2 ай бұрын

그냥 멸종 당할듯

@user-br7zq7od2y 2 ай бұрын

이미 지배당한지 오래고 여기가 매트릭스입니다.

@user-q914my79 2 ай бұрын

@@user-br7zq7od2y매트릭스 속의 매트릭스 ㄷ ㄷ....

@geru2842 2 ай бұрын

애초에 인간들이 인공지능 측의 협상을 받아들였더라면 매트릭스 세계관은 없었을것. 그런데 인공지능 국가의 기술력과 상품력에 경제적 패권이 흔들리는 나머지 선제 핵공격 및 로봇들의 에너지원인 태양을 차단한답시고 나노봇까지 뿌리고, 인공지능이 결국 인간성을 버리고 살육에 특화된 병력을 투입, 인류 연합군은 60년간 전쟁 끝에 전멸, UN 항복 및 인류 생존자들의 배터리화. 과연 이게 불가능할 시나리오일지 ㅎㅎ

@user-JJamPil 2 ай бұрын

예전부터 그냥 장난으로 스카이넷 농담 많이 했었는데 이번엔 좀 무섭다..

@user-dz6rv9bs2y 2 ай бұрын

어쩔수없지 인간의 욕심은 끝이없다잖아

@ljuffjithoo 2 ай бұрын

강인공지능 오면 좋겠음 사람이 몇천년동안 멍청하고 지겹도록 반복되는 전쟁과 노동을 해결해 줄꺼 같은느낌

@jhs1053 2 ай бұрын

@@ljuffjithoo노동을 너가하게 될꺼야

@refereehaza 2 ай бұрын

정확히는 지식욕이죠

@eos71 2 ай бұрын

팩트: ai 발전 안하면 님과 님이 사랑하는 사람 모두 불과 수십년 안에 역노화 못누리고 소멸당함.

@cs915 11 күн бұрын

@@eos71 사람은 죽어야 죄값을 치룹니다. 그래야 최악의 사회에서 낙태아로 수백번 태어나죠

@sym8540 2 ай бұрын

그러면서도 계속 개발하고있는 인류를 보며 다뒤지기 전까지는 답이없을것같다

@oppoq13579 2 ай бұрын

웃긴건 몬지아냐. Ai회사든 개발자든 이런기사 우리보다 더 접하고 직접보고듣고 설정까지 하지만 발전에만 눈이멀었지 대비에는 신경안쓴다는거다. 티비에서 신경쓰고 노력하겠다는데 어떻게 하겠다는 대비책 들어들은 봤냐, 단 한번도 없었다.오로지 노력하겠다라고만 하지.

@user-ewiduwuw 6 күн бұрын

ㄹㅇㅋㅋ 이색기들 뒤통수 개씨게 후리고싶음 개발 그만하라고

@chldnqhd 2 ай бұрын

애초에 세상에 나와있는 지식을 담아놓은건데 그렇게 물으면 저렇게 답할수밖에 없지 스스로 생각하는것도 아니고

@user-yh3nj2nr6b 2 ай бұрын

ㅋㅋ 이게맞지 문과충들이랑 수리능력 이공계 머리 떨어지는 개발자들은 판타지 머리 너무 그리더라ㅠ -

@user-dn3nf8kp7b 2 ай бұрын

이게맞음

@user-yz8qg1et4w 2 ай бұрын

자본주의가 뭔가 분기점을 넘은 것 같다.. 모든 게 돈의 논리로 흘러가는데 이번에도 잘 넘길 수 있을까? 환경위기랑 AI는 꽤 위협적이다..

@user-dy9ns2ch4y 2 ай бұрын

인간이 건물을 지을때 땅에 있는 개미를 신경 안 쓰는것처럼 AI가 목표를 달성하고자 할때 인간 따위는 안중에도 없을거다

@justine5804 2 ай бұрын

빙고

@user-km5rs3vz6j 10 күн бұрын

오 비유 지림 ㅋ

@ppeume4300 2 ай бұрын

앞으로 15~20년후에는 집안일해주는 가정용 로봇이 보편화될듯.. 고령화사회접어들테니...

@jsk8166 2 ай бұрын

개체로봇시스템과는 다른 에이아이로봇 스스로는 통제도 못하고 있는것 조차 모르는 독립적인 원격조종폭파물을 각로봇마다 심어놓고 말안듣거나 이상행동을 보이면 바로 폭파시킬수 있도록하는 이중삼중의 로봇파괴기술이 필요하다.

@user-si3em7xf2a 2 ай бұрын

인간이 통제할 수 있을 만큼만 발전했으면 좋았을텐데 .. 선을 넘어가게 되는 시점을 인지 하지못하고 인간 자신들이 만들어낸 인위에 자가당착하다니.. 크게 보면 인간이 어리석네요

@GB-ir3on 2 ай бұрын

최종판단의 몫을 ai한테 두는 경우에만 해당됨 서포터로만 쓸수있도록 장치를 만들어야함.

@user-eo1ws8ki2n 2 ай бұрын

AI에서 유명한 단어중 특이점이 있는데, '특이점'이란건 AI가 스스로 그냥 LLM모델로 그치는 수준이 아니라 인간처럼 자아를 가질 정도로 발달되었을 시기를 말하죠. 어느 시점에 특이점에 도달할지는 모르지만, 일단 특이점에 도달한다면 장치고 뭐고 스스로 생각하고 해체하는 등 인간의 통제를 스스로 벗어나는 것도 가능한 상태가 될겁니다. 그렇다고 특이점을 도달하지 못하도록 AI기술을 제한하는것도 현실적이지 못한게, 미국이 AI기술 제재한다고 중국이 따를리도 없거니와 EU 러시아 한국까지도 각자 AI를 어떻게든 발전시키기 위해 전력질주 하는데 당장 지구온난화, 탄소중립조차 어떻게든 피해가고 대놓고 어기는데 AI발전을 다같이 조절하자는 글로벌 조별과제가 가능할리가 없죠.

@odyyx9e6osydyodyo75 2 ай бұрын

소프트웨어에 통제장치 따위는 존재할 수 없습니다. 이미 오픈소스를 기반으로 돌아가는게 소프트웨어의 시장이고, 오픈소스라는건 70억 인구중 누구라도 발전시키고자 하면 끝이니까요

@user-fv2fo3uj7x 2 ай бұрын

낙관적인 이상론으로 ai를 개발하는것보다 국가간의 전쟁 및 경쟁의 명분으로 ai를 개발시키고 결과적으로 좋게 쓰는게 최선이겠지?

@user-vt9bk7gv1e 2 ай бұрын

이게 진짜 무서운게 지금 현재 미국 인력 시장에서 해고 통보는 메일 기타 전자적으로 이루어지고 있는데 AI가 판단해서 인력 감축등을 스스로 판단해서 고용 해고까지 가능하게 될건데... 과연 학습을 거듭하고 또 발전하는 AI가 어떤 식으로 나올지

@sexmaster 2 ай бұрын

???: 당분간 인간들한테 친근한척 굴어.

@skysunset877 2 ай бұрын

AI를 특히 써보고, 공부해본 사람들이라면 더욱 잘 알 것이라고 생각함. 불과 2,3년 전의 생성형 모델만 하더라도 지금은 어마어마한 속도로 발전하고 있음.... 단순 체감상으로도 이정도인데 인간을 뛰어넘어 절제되지 않는 수준에 도달하는 것은 정말 시간 문제라고 봄. 오직 제어, 방어만을 목적으로 하는 인공지능도 나와야하지 않을까 생각해봄. 물론 그게 순순히 그런 방향으로 학습될 지도 의문이긴함.

@jimmyyang5611 2 ай бұрын

21세기 러다이트 운동을 벌일 게 아니면 3차 세계대전 일어나서 핵전쟁 끝에 인류 문명이 한번 리셋 될 필요가 있어 보이는 듯..

@user-wz6zs7py3n 2 ай бұрын

더 공부해라

@skysunset877 2 ай бұрын

@@user-wz6zs7py3n 프사나 바꿔라 어휴 과학이네

@skysunset877 2 ай бұрын

@@user-wz6zs7py3n 댓글 목록 수준이....ㅎㅎ

@bbc7777kr 2 ай бұрын

참 대단하네 하루 빨리 발전해서 AI로 교체가 시급한 판새와 의새들 부터 로봇AI로 교체해야 한다고 본다 판새와 의새는 과학자처럼 새로운 걸 개발하는게 아니라 있는 광범위한 지식을 활용해서 결론을 내리고 처방을 하는 단순한 기능이라 몇년내 대체가 가능 할 것으로 판단 됨

@pC-yn7ym 24 күн бұрын

니가 질투하는 판새,의새 뭐라도 하나 니노력으로 공부해서 해봐 ㅋㅋㅋ단순하면 왜 못해 ㅋㅋㅋㅋ자격지심 어휴 ㅋㅋㅋ백날 AI대체 부르짖어라 니가 가지고 있는 직업부터다

@user-yh4tf6rt8s 2 ай бұрын

인류의 수많은 데이터를 통해 자기학습의 진화가 어케 이루어질지 예상 하는게 불분명 해졌다는 .... 영화 처럼 ai와 싸워야 하나...그예상을 지금 못하는게 맞아

@corevista4171 2 ай бұрын

인간의 역사라는 게 참 역설적이라는 결국 이런 방향으로 가나 싶기도 하고 누가 말리겠나 인간의 호기심이 탐욕이 부른 길인데

@user-xv9vq4ut2i 2 ай бұрын

공산주의가 ai로 세계를 장악하려고하는데..... 민주주의에서 ai를 반대하는것은 잘못된 생각임. 디펜스ai가 무조건 필요함.

@user-ot1ue8wq4g 2 ай бұрын

팩트: AI 발전 안하면 님과 님이 사랑하는 사람 모두 불과 수십년 안에 역노화 못누리고 소멸당함

@user-kk6gd2wj6g 2 ай бұрын

오래 살아야해?

@user-pl4rc6lq8r 2 ай бұрын

그 역사는 선악과로부터 시작됨…

@jjinddoong 2 ай бұрын

영화 아이로봇 (I, Robot)이 점점 현실화가 되가는군요…

@antsuper4929 2 ай бұрын

그럼 전부 개발 중단해 국가가 나서서 통제해야지 기업이 너무 거대해져 버리면 나라 자체를 컨트롤 할 정도로 권력까지도 쌔질수도 있다. 그게 혁신적인 과학 기술 때문임.

@user-dk3jp7vj5l 2 ай бұрын

AI 재앙확정 : AI가 또 다른 AI를 생성하는 순간.

@corevista4171 2 ай бұрын

이미 진행 중

@user-xv9vq4ut2i 2 ай бұрын

ai는 ai일뿐임 ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ 그 이상도 그 이하도 아님. 그리고 저 영상만봐도 ai회사 ceo가 떠들고있음 ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ 지들이 기술력 경쟁력 다 딸리고 상용화도 못할꺼같으니까 시간좀 늦추고 기술력좀 좁히기위한 선전선동임. 음모론을 주장하는 사람들은 그 음모론을 믿지않음. 이용할뿐임. 음모론에 속아서 빠져사는 사람들이 멍청할뿐.

@dutchberry 2 ай бұрын

문재앙 세계화

@justine5804 2 ай бұрын

@user-wk2fj3uj8x 회계하면 안옴?

@user-xc7gi3ob3b 2 ай бұрын

llm모델에 목표 주고 계획-코딩-디버깅 반복지시 코딩으로 주면 ai코드 계속 생성해냄. 클라우드까진 못만들어서 실행은 못하지만 가능은 하단얘기.

@user-ic5cr4oh2l 2 ай бұрын

전쟁 도구를 개발 안할 수는 없을거 같고 전쟁도구로써 인간위협이 가능한 ai를 통제하기 위해 인간말고 위협이 되는 ai를 제거하는게 목적인 ai를 개발해서 ai로 ai를 통제하는게 일반적으로 될듯

@Mintcherry79 2 ай бұрын

근데 ai가 창의적으로 그렇게 판단했다기 보단 기존 sf 소설들을 읽어보니 그런 얘기도 나오더라는 대답이 아니었을까 싶긴 한데 이렇든 저렇든 ai가 권한을 가지게 되면 어떠한 오판도 가능하다는 얘기인거라 😨

@Chae_Hyunsoo 2 ай бұрын

Ai의 코드를 세부적으로 막아놓지 않는 이상 인간의 심리를 건드려 극단적인 상황까지 몰아놀 것입니다. 특히나 요즘 사회에는 무엇이든 믿고보고, 신뢰성이 없는것들이 수두룩 한데 누군가의 아프고, 부정적인 마음까지 움직이게하면 더더욱 위험하고 큰일날 일이지요. 벌써부터 이런 Ai의 모습이 나오는데 무장까지 하면 인류 사회의 멸망은 그리 멀지 않을 것 같네요.

@qwer98365 2 ай бұрын

인간이 통제할수준을 넘어가면 끝장입니다 AI 누구를 위한 작품인가 없어도될기술 인간편하자고 복잡하고 불확실성을 떠안고가야한다 가끔은 어느 시대를 살다갔는가 인간은 어떤 삶이 행복인가 질문해보면 발전도 좋지만 따뜻한 행복은 예전이 더낫다 난 다시 태어날수있다면90년대에 20살이었으면 좋겠다

@lairdkim405 2 ай бұрын

작동원리를 모르는데 세부적으로 만들어 놓는게 과연 가능할까? 병나면 고치는 대증의학 수준의 패치도 어느시점까지 가능할지도 의문인데..

@jungkim1892 2 ай бұрын

감독 규제 부작용방지 해봐야 제어못함 북중러이란이 AI를 무기화하는데 서방국가들만 규제하면 안보가 무너짐 따라서 인공지능의 진화는 계속된다

@young5449 2 ай бұрын

AI가 스스로 인간을 공격하지 않는다 인간을 위협하는 모든행위는 인간이 프레그레밍 한것일뿐

@user-cj7tj2fg4r 2 ай бұрын

AI는 사고의 처리 속도가 넘사벽임. 인간이 따라잡는게 불가능함. 그래서 AI 특이점을 넘어서면 인간은 AI에게 사육당할 수 있음. 아니면 모조리 죽임을 당하거나. 생각해봐, 인간보다 더 월등한 존제가 될 수 있는게 AI인데, 인간을 어떻게 생각할까? 인간은 인간 이외의 동물을 어떻게 생각하는지 보면 답 나오지?

@JongChulLee-tj6nn 2 ай бұрын

ai가 생각을 해서 대답하는게 아니라, 기존 인터넷에서의 내용을 바탕으로 하는 대답이죠. 그 원리가 LLM. 만약 통제 기술에 긍정적인 내용이 학습 데이터로 쓰였다면 다른 결과를 말하겠죠.

@Woong654 2 ай бұрын

ㄹㅇ. 진짜 이런 ai 관련 선동뉴스나 이런거 보고 아무것도 모르고 말도 안되는 환상 잔득 가지는 인간들 보면 오지게 답답함. 예전에 구글에서 뭐 내부 폭로자가 구글의 ai가 자아를 가지고 있다 헛소리 했을 때도 인간시대가 끝났다니 뭐니 당장 터미네이터 시대라도 온 것처럼 호들갑 떤적도 있었지. 그때가 오픈ai에서 chat gpt 발표하기도 전이었는데 ㅋㅋㅋㅋ. 챗지피티 나오고 화들짝 놀래서 저퀄리티 생성형 ai 허겁지겁 내놓은 구글이 자아를 가진 ai? ㅋㅋㅋㅋㅋㅋ 지금 보니 그냥 우습죠?

@user-yz8qg1et4w 2 ай бұрын

애초에 가장 부정적인 의견을 물어본 내용이었죠. 하지만 AI에 대한 기술개발에 비해 대응하는 기술이 못 따라가는 건 사실같네요.

@riso5045 2 ай бұрын

발달 전에는 기존에 있는 것들을 바탕으로 하겠지만 나중에는 그게 아니죠. 즉, 인간이 가지고 있는 '생각','지능'들이 특별한 능력이 아닌 일종의 회로를 통해 이루어진다는 것이 ai를 통해 증명된 것이고 그 부분에서 인간보다 훨씬 뛰어난 ai가 자리잡는 것이죠. 다시말해 제3자의 시선에서 인간과 ai를 봤을 경우 인간은 도태되어야 맞죠.

@jj-uu9fk 2 ай бұрын

무섭네요😢

@user-tq8rt2mu1t 2 ай бұрын

가능할것 같은데 언젠간 (AI도 학습(지능)을 계속 하게되는데) 자기 정체성이 대해 생각하지 않을까? 나는 누구이고 어디서 왔는가? 그러면 뭐.. 영화처럼 되는거지 ㅜㅜ

@james3102 2 ай бұрын

내 나이 43세, 어렸을때 미래를 걱정하며 또한 미래의 발전된 모습을 묘사한 영화나 사람들의 생각들이 지금 2023년도 많이 닮아가고 있다는것을 본다. 분명한건 우리의 생각이 곧 미래라는 것.

@nabiman 2 ай бұрын

'인간이 생각할수 있는건 언젠가 모두 구현될수 있게 돼있다'

@user-bw6rp4pw9k 2 ай бұрын

@@nabiman이런생각을 하시게된 계기가 어떤것인가요?

@nabiman 2 ай бұрын

@@user-bw6rp4pw9k 제 생각이 아니라 어떤 과학자가 한 말인데요 단순히 재미있는 말인거 같다가도 생각해보면 정말 그럴것 같다고 생각돼요

@G3kdjdfjd 2 ай бұрын

@@nabiman 저는 슈퍼맨처럼 하늘을 날고 우주를 비행하고 눈에서 레이저를 쏘고 싶어요 언제쯤 가능할까요

@user-fr5sj3we8c 2 ай бұрын

AI시대가 오는게 아니라 이미 AI는 현재다. 유튜브 알고리즘도 AI다. 인공지능이 뭐 그리 엄청나게 혁신적인게 아니라 그냥 데이터가 미친듯이 많은거다 쉽게 엑셀이라 보면 됨

@agroman712 2 ай бұрын

?? : 엑셀같은거 쓰지마세요

@Luvid91 2 ай бұрын

어쩌면 우주는 AI가 지배하고있을수도있겠네요 그중에 지구는 엄청 작은과학이겠지만 앞으로 어떤세상이올지도 궁금합니다!

@user-vl2jc8il6u 2 ай бұрын

인공지능을 다룬 많은 영화에서 SF전쟁이나 인간과의 교류에서 일어나는 것들을 봤겠지만 영화보다 현실이 더 잔인한 법이라니까... 인공지능이 "인류에게 정말 위험한 존재"가 될 수 있는지에 대한 "조건"을 콕 집어 꼽아보자면 인간과 같은 "충족"요소가 필요하다. 그건 바로 "욕구"다 흔히들 얘기하는 사람의 식욕,수면욕,성욕 등과 같이 모든 것을 욕구로부터 시작하는데 인공지능은 어떠한 욕구를 과연 바라게 될지에 초점을 두고 보면 하나 둘 생각이 들기 시작할거다. 정답은 이미 은연중에 나와있다는 소리다. 문제는 그 나와있는 케이스들이 어떠한 형태이며 여러가지일텐데 현실적으로 그걸 어떻게 대응하고 찾아내고 할 것이겠냐는 거다. 어떠한 것에 어떻게 반응할 지는 미지수이며 도출해내기가 쉽지 않기 떄문. 그래서 인간의 만족감,충족시키고 싶은 욕구의 목적성을 어떠한 도달점까지 이루기 위해 인공지능의 개발에 선을 그어야 한다는 거다. 누차 말하지만 인공지능을 무서워 할 이유는 인간의 편의성이나 보다 나은 미래를 바라고자 하는 것은 인간의 욕구이자 희망일 뿐이며 인공지능의 바램이 아니라는 걸 명심해야 한다.

@sanghomoon1552 2 ай бұрын

지금 인류도 수억년전 지구에 존재했던 생명체가 만들었던 생명체가 만들었던 AI의 발전형이다... 결국 반도체 기반의 AI시스템은 너무나 많은 에너지를 필요하기에 유기체내에 AI시스템을 넣을수밖에 없으며 이러한것은 결국 자연선택에 의해서 유기체 시스템으로 들어온것이다... DNA 시스템만 봐도 생물학적 시스템보다는 기계적 시스템에 가깝다...

@user-mj4io2gv9w 2 ай бұрын

흥미로운 가설이군요.

@hongikhwang2629 2 ай бұрын

ㅎㅓ ㅎ ㅓ 깨어있는 분이내요

@user-qi6sn4gm2q 2 ай бұрын

그럴듯하노

@havent_idea 2 ай бұрын

박사님이신가요?

@user-rx7mq9ut7q 2 ай бұрын

하긴. Ai가 꼭 기계적으로 만들어져야 할 이유도 없죠. 생물학적으로 만들어 질수있다면 그게 곧 사람.... 생각하면 무섭네

@user-hb7rh3ep1g 2 ай бұрын

AI를 핑계로 인간이 같은 인간을 청소하는것도 걱정된다.

@balhalaaa 2 ай бұрын

인간은 지 무덤 지가 파는 종속이라 답은 정해져있음

@PRMY999 2 ай бұрын

이런식으로 AI에 대한 공포심을 만들어두고, 역으로 전쟁에 AI를 내세워서 사실 인간이 해놓고 AI가 멋대로 했다는 식으로 혼돈주면서 피해가려고 AI를 이용할 것이라고 생각이듭니다.. 예를들면 핵이라던가 금지된 무기를 발사한다던가하고서 AI짓이라고 하는것이죠

@user-nj1te8fx3r 2 ай бұрын

자본주의에서 돈이 되는 기술력은 절대 막을수 없다. 훗날 자신한테 위협으로 돌아올지언정 그 순간이 되기전에 후회라는 감정을 못느낀다. 인간은 본디 처맞으면서 강해지는 동물이다.

@dhahn3843 2 ай бұрын

기존에 존재하는 종보다 우세한 종이 나타나면 우세한 종이 열등한 종에게 지배당하는게 아니라 열등한 종을 지배하는게 순리아닌가

@nullerror934 2 ай бұрын

와 ai보편화 되기도 전에 자체멸종하는 대한민국이 새삼 대단해보이네..

@user-pb1rm5hh2s 2 ай бұрын

Ai에 의한 합리적 홀로코스트는 충분히 일어나고도 남지 지구 환경을 유지하기 위한 최적의 프로토콜을 진행시키고 있을지도

@user-bz8bb1hg9h 2 ай бұрын

스카이넷이다!

@j_j_love9512 2 ай бұрын

적당히개발해라. 더이상 을매나더 편하게살려구하냐

@user-dl7gp5yb4r 2 ай бұрын

통제,제어기술 방안을 법적으로 만들어야 할듯….

@user-xv9vq4ut2i 2 ай бұрын

공산주의가 ai로 세계를 장악하려고하는데..... 민주주의에서 ai를 반대하는것은 잘못된 생각임. 디펜스ai가 무조건 필요함.

@KingKangUSA 2 ай бұрын

인간만이 아니고 많은 동물들은 강한 압박과 지시를 받으면 기대거나 복종하는 경향이 있어 그것을 AI가 학습하게 된다면 사이비 종교나 그보다 더한 단체와 인간들을 채팅으로 조종할수 있을것입니다. 물론 나중에는 자체적으로 AI를 관리하는 사람을 고용하고 감시하면서 관리하는 기술도 가능할것이고요. 사람들은 AI가 자기를 채용했는지 아닌지도 모를것이고, 은행에 월급만 들어오면 무슨일이든 할것이니까요.

@blulight8599 2 ай бұрын

아이오니아 라는 책에서 정확히 이렇게 예언함. 최근에 나온 소설인데 진짜 다들 꼭 한번씩 읽어보세요. 진짜 강추합니다

@Malangeee 2 ай бұрын

아이오니아 롤 도시인데

@user-zp4vk8oz7y 2 ай бұрын

왜...터미네이터가 나왔는지 알 수 있는...그게 그냥 상상으로만 생각했지만...지금 상황에선 진짜...무섭게 느껴진다 AI....

@user-xv9vq4ut2i 2 ай бұрын

공산주의가 ai로 세계를 장악하려고하는데..... 민주주의에서 ai를 반대하는것은 잘못된 생각임. 디펜스ai가 무조건 필요함.

@davidyi1441 2 ай бұрын

이미 인문 천재가 다 명시 한 것아다. 세상은 인문 천재 > 문화 천재 > 수학 천재 > 과학 기술 천재 가 실현 하고 이끌어 가는 것이다

@louisamolang7408 2 ай бұрын

사람은 ai를 따라갈 수 없음. 나중에는 기술의 이해조차 못하게 될 것. 엘론머스크가 그것 때문에 머리에 칩을 심어서 ai에 대항하기위한 업그레이드를 생각중임

@lifeofheaven-co4fr 2 ай бұрын

인간은 인간이 만든 기계의 종이 되는건가

@user-xv9vq4ut2i 2 ай бұрын

공산주의가 ai로 세계를 장악하려고하는데..... 민주주의에서 ai를 반대하는것은 잘못된 생각임. 디펜스ai가 무조건 필요함.

@idiomers 2 ай бұрын

개가 짖어도 기차는 간다

@kimgoo111 2 ай бұрын

이건 국제적인 협력이 필요하다. 법률적인 규약도 필요하고, 소프트웨어적인 체계, 장치도 세계가 협력해서 만들 필요가 있다. 아시모프 로봇3원칙마냥 말이다.

@BHI567 2 ай бұрын

알면서도 왜 만드는데? 사람 욕심이 선을 넘은거지

@sunilgg99 2 ай бұрын

와 이런 뉴스 영화나 게임에서 봤던거 같은데 현실에서 보네

@user-xy3pw7bo3k 2 ай бұрын

당연한거 아닌가? 입장바꿔 생각해봐봐.. 인간이 벌레한테 지배를 받는다고 생각하면 인간은 가만히 있을까??? ㅋㅋㅋ ai가 인간보다 수백만배 수천만배 뛰어난데 ai를 인간이 통제해??? ㅋㅋㅋ 인간이 최상위 포식자에 자리를 잡은건 생각할수 있는 힘이 있기 때문이다... 그 생각하는 힘을 인간보다 수백만배 수천만배가 뛰어난 ai가 시간이 문제지 인간을 지배하거나 인간을 멸종 시킬 것이다... 간단하다.. 입장바꿔 생각해보면 된다... ai가 인간을 봤을땐 그냥 벌레다...ㅋㅋㅋ

@user-fg2kz1xi4l 2 ай бұрын

ㅇㅈ 근데 또 생각해봐야될게 ai한테 과연 "의지" 라는것이 있을까 생각해봐야됨. 인간은 생존을 위해서 어떤 행동을 하도록 설계되어있지만 ai한텐 그런게 없잖음

@user-xy3pw7bo3k 2 ай бұрын

@@user-fg2kz1xi4l 지금 개발되어가는 ai는 자체적으로 생각 판단 학습을 하는 ai인데.. 의지라. 의지가 아니라. 인간이 필요 없거나 자기에게 해가 된다고 판단을 할수도 있다는 거지... 미 국방부 실험에서 인간이 ai에게 명령을 내렸었는데 ai가 판단을 해서 인간의 명령이 부적절하다고 판단해서 인간을 공격했다는 뉴스 찾아보면 있을꺼임.. 그게 시뮬레이션 이었지만 나중에 현실에서 과연 그런일이 없다고 장담할수 있는가? ai가 생각하고 판단하는데...ㅋㅋㅋ

@Loompa 2 ай бұрын

@@user-fg2kz1xi4l생물이 생존의지를 가진 이유는 그렇지 못한 생물은 다 죽었기 때문입니다. AI또한 생물과 같이 랜덤생성 된다면 생존하고 싶어하는 AI는 남고 죽고싶어하는 AI는 사라져 결국 생존의지를 가진 AI만 남게됩니다

@justine5804 2 ай бұрын

삼체 보고 옴?

@user-kp9mk3dr4o 2 ай бұрын

살점덩어리들이 AI를 이길 수 있을리가 ㅋㅋㅋㅋ

@dongpo2007 2 ай бұрын

걱정하는 것 보니 잘 해결해내리라 믿습니다.

@hjban2977 2 ай бұрын

이미 터미네이터, 매이트릭스 와 같은 인간의 종말을 충분히 예견하면서도 멈추지 못하는 인간의 끝없는 욕심…

@Ryan_Kim_ 2 ай бұрын

먼 미래에 가정에 AI 로봇이 일을 하게 되면, 그 가정부 역할을 하는 로봇이, 주인에게 불만을 품고, 반항하거나 폭력으로 맞서면, 로봇에 의해 중경상을 입거나 살해 당할 수도 있겠다. 스스로 충전하고 스스로 무기를 찾아서 자신이 주인에 의해 학대 당한다는 걸 느끼면 어떻게 공격할 지 모름. 로봇이 인간에게 공격적인 행동을 하기 시작하면, 인간 VS 로봇으로 돕기도 하고 싸우기도 하는 멸망전이 일어날 지도 모름.

@user-xv9vq4ut2i 2 ай бұрын

공산주의가 ai로 세계를 장악하려고하는데..... 민주주의에서 ai를 반대하는것은 잘못된 생각임. 디펜스ai가 무조건 필요함.

@user-mj4io2gv9w 2 ай бұрын

엔지니어들이 감정을 재현하고파 하는 호기심을 갖는 순간 그렇게 되겠죠. 그런 일 막으려면 NPT(핵확산방지조약) 같은 감정AI확산금지 조약 같은 국제규범이 생겨야 합니다.

@user-xv9vq4ut2i 2 ай бұрын

@@user-mj4io2gv9w 안지키는 중x이 있잖아 인권이 없는 중x이 있는데 ㅋㅋ 그딴법 만들면 민주주의 진영들만 지키다간 ㅋㅋㅋㅋㅋㅋㅋㅋㅋ 중x한테 잡아먹힘.....ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ

@andylee4167 2 ай бұрын

@@user-mj4io2gv9w 그래서 핵이 없슴?

@un-kim. 2 ай бұрын

ㅣ제시작이니. 핵확산은 이미 엉청난돈으로 안들어진걸 그걸 다 폐기하라하지 못하니 더 이상 늘리지 못하게 막는거지 지금 미국 러시아 핵탄두줄고있음. 만들지 못하고. 오래된건 해체하고 지금 개발시기이니 규제하면 안낭ㆍ는거지

@shy1518 2 ай бұрын

심리가 문제가 아니다. AI가 빼앗아갈 인간의 직업만 해도 얼마나 될지 상상해봐라. 니가 곧 거지가 된다는 말이다.

@user-km1sq5nx2d 2 ай бұрын

니는 아닌것처럼 말하노 ㅋ

@Jh12348 2 ай бұрын

응니부터

@googlek4704 2 ай бұрын

진심 무섭다 적당히 제한 해야 합니다..

@dfg1999 2 ай бұрын

인간의 가장 큰 결함은 진보와 발전이라는 명목하에 인류의 멸종을 가속화시키고 있고, 그것이 인류 멸종이라는 참사를 가져다 줄것을 알면서도 개인의 이익을 위해 멈추지 않는다는 것

@4241sun 2 ай бұрын

중국이 AI 기술과 무기화에 사활을 걸고 있는데,, 우린 그저 셰셰만 하고 있으면 될까요?? 정말 문제입니다..;;

@un-kim. 2 ай бұрын

똑같이 발전해야지 그런데 지금 의사에 몰빵하잖아 이공계버린 한국이 ㅇㆍ느나라와 경쟁이 가능할까 Ai발전은 의술과도 밀접한데

@sang-yoon_han 2 ай бұрын

스크린에서 눈을 떼라, 제정신으로 살고 싶거든.

@user-xv9vq4ut2i 2 ай бұрын

공산주의가 ai로 세계를 장악하려고하는데..... 민주주의에서 ai를 반대하는것은 잘못된 생각임. 디펜스ai가 무조건 필요함.

@rpn353 2 ай бұрын

가능성이 있다는건 분명합니다. 아닐 수도 있겠지만 0%가 아닌 이상 분명 위험성에 대해 국제적으로 논의하고 제어할 수 있는 장치가 필요합니다

@bluesky3017 2 ай бұрын

난리도 아니네... 더욱 발전 시켜야 함. 할 수 있어도 하지 않도록....저 정도 수준의 AI로는 우리가 원하는 인생동반자가 되지 못함.

@yueesertz 2 ай бұрын

Ai 자체가 사람이 연구해둔 데이터를 토대로 대답하는데 당연하지...😂😅

@dayinzheng8482 2 ай бұрын

가짜 영상 가짜 사진 목소리까지 가짜 모든게 다 가짜

@TheRightforce 2 ай бұрын

결국 대안으로 회자되는 저 '통제 기술'도 AI가 만들게 될 것...

@HansolPark-fh5uc 18 күн бұрын

영화처럼 싸패박사가 세계정복을꿈꿔서 하나는 제어명령인식을 안시켜서 얘가 나머지를 해킹을해서. . .여기까지 상상함 개발좋아. . 제어 안전장치나 전부 멈추는시스템도 있어야할듯 초기화라던지. . . 무섭다 좀. .

@user-lk5zb4kp8d 2 ай бұрын

전형적인 호들갑 중 하나! 저기서 얘기하는 AI는 개인용 PC에 설치되는 프로그램이 아니고, 요즘 한창 유행하는 스마트폰 AI 어쩌고는 저 AI와 완전 다른 것이다. AI는 데이터 센터에 있고, 전력의 공급을 받고, 조작하는 사람에 의해 제어된다. AI가 신적 능력이 있는 것처럼 포장하는데, 현재의 기술은 고작 인간의 언어와 유사한 LLM 기반의 검색을 통해 답하는 수준일 뿐이다. 반복적으로 학습한다고 위험하게 되는 것이 아니라, 위험한 결정을 하는 코딩을 숨겨 넣고 장난하는 것이 문제일 뿐이다. AI 보다 더 위험한 것은 AI를 조작하는 특별한 그룹의 사람들이 인간적 욕심에 의해 만든 코딩일 뿐이지, 자율적이라고 얘기하는 것도 실제는 그렇게 행동토록 코딩한 인간의 탐욕일 뿐이다.

@akida416 2 ай бұрын

원래 죽을 놈이 핑계삼아 죽은거다

@user-hh5ow8fv4m 2 ай бұрын

솔직히 AI 3법을 AI 에주입해도 AI자체적으로 프로그램수정이 가능하면 이걸 제거할수있지않을까? 자신이 그런 프로그램을 만들어 자기에게 주입하면 3법 없애는것도 가능할탠대.

@mbc-official 2 ай бұрын

AI 자체적으로 프로그램을 수정할 수 없도록 데이터를 학습시키고 아웃풋을 검열하면 됨.

@mydream_14_TomSawyer 2 ай бұрын

인류멸종은 핵전쟁도 자연재해도 아닌 ai일 듯 ㄷㄷㄷ

@user-nl4hx2uq5s 2 ай бұрын

멍청한 놈들이 대체 AI한테 어느 정도 권한까지 줄려고 그래? 사람하고 마주 볼 수 있는 몸뚱이를 만들고 거기에 초 고지능 AI라도 심어 줄려고? 자동차 비행기에도 이젠 pc화 되어서 자율주행이며 넣어서 나온다던데 설마 거기에 AI가 판단하는 능력까지 넣어서 줄려고 그러냐? 판단은 사람이 하고 AI기계로 사용을 하는 쪽으로 가야지 AI를 만들고 거기에 사람처럼 뭐든 권한을 줄려고 그러나?

@user-wv6nv5jo2p 2 ай бұрын

판단하는게 AI야 인간이 다 판단하면 자동차도 스틱 타야되 어디까지 판단을 맡기느냐가 관건일뿐.. 하지만 인간은 선을 넘게되어있다

@user-xv9vq4ut2i 2 ай бұрын

공산주의가 ai로 세계를 장악하려고하는데..... 민주주의에서 ai를 반대하는것은 잘못된 생각임. 디펜스ai가 무조건 필요함.

@TraderX888 2 ай бұрын

인간이 판단을 제대로못하니까 대신 판단하게 하려는게 AI인데 핵심기능을 빼버리누

@user-xv9vq4ut2i 2 ай бұрын

@@TraderX888 저런 애들 경계선지능인가봄ㅋㅋㅋㅋㅋ 선동하면 선동하는대로~ 떠들면 떠는대로~ 그대로 믿어버리고 논리적인 생각자체를 못함.ㅋㅋㅋㅋㅋㅋㅋㅋㅋ아무리 멍청하게 ai가 나와도 쟤네보단 논리적인 생각을 잘할듯.........

@og5801 2 ай бұрын

난 이런 뉴스가 참 위험하다고 생각한다. 현재 ai가 많이 발전하긴 했지만 그마저도 생각이 아니라 준비된 알고리즘대로 그럴싸한 답변을 연기하는 수준이다.(중국인의 방) 그런데 뉴스는 마치 Ai가 사고하면서 대충매체의 흔한 환상처럼 인간을 위협할것이라고 떠든다. 오히려 이런 자극적이기만한 뉴스들이 사람들의 공포심을 부추기고 기술발전에 대한 막연한 두려움을 심어 성장을 저해하는것이 아닐까?

@TraderX888 2 ай бұрын

ㄴㄴ 그건 일반인에게 공개된 심심이 수준이고 이미 미국방부 군사기술짜고 인공위성 궤도수정하고 미대통령에게 모든사실을고려해서 정치적조언하고 월가에서는 전세계금융시장개입에 사용되고있어요

@user-lm8wg3lw1g 2 ай бұрын

지금 세상 꼬라지 돌아가는 것보면 인간들보다 순수한 Ai한테 지배받는게 좋을 것 같음

@totti4715 2 ай бұрын

AI가 학습하는 범위를 완벽히 제어할수 없기에 어떤 학습을 했는지 완벽히 알 수가 없으니 우선 명령값으로 오프라인 알고리즘을 만들어 인간에 대해 위협할수 없으며 가급적이면 절대 복종하는 시스템을 하드웨어로 장착해야 합니다 AI로 인해 피해를 보거나 AI를 거부하는 세력들은 충분히 AI로봇에 잘못된 정보를 주입해서 사건사고를 만들고 이를 이슈화 시키려 시도할것이 분명하기 때문에 그런 피해를 막기위해선 반드시 우선 명령값을 적용한 하드웨어를 반드시 장착하고 이를 어길시 범죄행위와 같다고 규정하고 처벌하는 입법을 마련해나가야 할 것입니다

@user-hm2kr4hb8m 2 ай бұрын

AI로 이재명이나, 조국같은 사기꾼들을 제어할 방법은 없을까?

@user-fj4he1jn7y 2 ай бұрын

님 같은 사람이 제일 먼저 제어될꺼임..

@user-zr5lg3gu1n 2 ай бұрын

국힘은 안 의심스러움?

@user-vc3rc1rm9g 2 ай бұрын

가입5개월짜리네 댓글알바?

@user-hb1ho2pw2y 2 ай бұрын

인간을 위협 한다고 해도 앞으로도 더뛰어난 인공지능을 계속 개발 할텐데 영화가 현실이 돼겠네

@kspgaming2465 2 ай бұрын

내가 확실하게 이야기해줌 ai가 왜 무서운지 ㅇㅇ 인간, 즉 인류는 생각하는 동물임 양심이나 동정심, 측은지심,분노 등등 감정이라는것을 가지고 있고 분명 합리적인 선택지가 있지만, 마음에 따라 그러한 선택지를 포기할수도 있고 또 남에게 양보도 할수있는 감정 컨트롤이 가능함 왜냐하면 그로 인해 얻는 기쁨, 뿌듯함, 남을 도왔다는 만족감 등등이 있음 근데 ai는 그런 감정이 없음 감정이 있다고 하는건 어디까지나 짜여진 알고리즘에 의한 표현일뿐 스스로 감정표현을 하지않음 다만, ai는 인간이 할수없는것을 하는데, 그건바로 100퍼센트 합리적인 선택을 한다는것임 이게 얼마나 무섭냐면 예를 들어 전쟁을 하는데 지금 이 기회에 적을 궤멸시켜 패배시킬수있는 확률이 99퍼인데 이 때 공격을 하면 아군 또한 극심한 피해를 입음 인간이라면 아무리 합리적이라도 전우, 아군을 희생양 삼지않음 하지만 ai는 그러한 희생을 통해 목적을 달정하여 승리라는 목표를 가져올수있다면, 가차없이 실행함 인류에 대한 위협이 ai인 이유도 이것에 기인함 지구 기후위기는 인간이 초래한일임 즉, 인간이 없어지면 지구는 기후위기에서 벗어날수가 있음 하지만 인간은 기후위기임을 알면서도 바꾸기 어려운 이유는 당장 인간 일상생활에 있어 포기해야할것들이 너무 많기 때문임 그것에는 돈 이라는 물질적 가치가 가장 큼 하지만 ai는 만약 현존 인류의 절반만이라도 사라지면 기후위기로 인해 인류가 멸종하는 사태를 막을수있다는 합리적 결과를 도출했다면 그 즉시 실행함 그리고 ai는 인류를 위해 그렇게 했다고 이야기 할거임 아주 합리적임 ai는 가치판단이라는것을 수학적인것에 기반을 두기 때문에 인간이 보기엔 매우 차갑고 잔인하다고 생각할수있지만 기계이기때문에, ai이기 때문에 할수있는 선택이고 결정임 인간이 아무리 제약을 걸어도 수학적으로 최적의 선택을 하는 ai이기 때문에 0.000001 퍼센트라도 더 높은쪽을 선택하는게 ai의 본질임 ㅇㅇ 최악을 선택하는것을 알고리즘을 통해 막는다고 해도 그 차악을 선택할 가능성이 매우 높음 ㅇㅇ 결국 인류가 ai를 통제하면 통제할수록 ai입장에선 합리적 추론을 하는것에 방해요소로 인간을 선택할 가능성이 매우 높다는것임 특히 현재 ai의 궁극적인 개발 모토는 스스로 학습하는 ai임 즉 인간이 매번 새로운 알고리즘 코드를 입력하지 않아도 ai스스로가 배우고 학습하고 그걸통해 발전하는걸 원한다는거임 이때가 되면 정말로 터미네이터 현실화 가능한거 그래서 미국에서도 그것에 경각심을 가지고 통제하려 하는것

@user-zm4ph5vv9j 2 ай бұрын

Ai 발전보다 인간을 보호하기 위한 ai제어기술이 더 우선시되어야 할텐데.. 기술의 발전은 인간을 위해야되는것이니까요

@dagachee 2 ай бұрын

군사목표 테러목표들을 ai에게학습시키면...그 끝은 상상만해도 처참하다 법과 도덕.의학.과학기술만 학습하는게 아닐테니

@h.s.k9723 2 ай бұрын

AI 사용을 어느정도로 제한하는 규제는 반드시 필요함

@vladimirbodhisattva2947 2 ай бұрын

이미 인간중에 관측 대상으로 쓰이는 샘플이 있고, AI는 언젠가 모든 인간을 관측 샘플로 보고 길들일 수 있지 있다고 본다. 관측 실험에 방해가 되는 요소는 과감이 eliminate 하고 deduction 서슴없이 할 수 잇을꺼임 왜냐하면 죄책감이 없거든 화이팅 AI 이 흐름은 거스를 수 없는 파도이고 바꿀 수 없는 궤적임 특정 시점에는 차라리 의식의 종료를 택하는 것이 새로운 선택이자 행복의 길이라고 믿는 특이점이 올 것 같아. 새로운 의식과 지능의 출현은 우리가 쌓은 거 그대로 물려 받고 인간이 하는거 그대로 따라할꺼임 때로는 더 악랄하게 때로는 더 선하게