인간을 너무 잘 알아서 우리가 알기도 전에 우리를 조종할 수 있다는 게 참 무섭네요

미쳤다. 인간이 감당할 만큼의 기술을 개발해야지 욕심은 끝도 없다가 책임도 없다. 아이들 시대 어떻게 하냐...

얼마전에도 미국 AI연구실에 출근해서 들어가보니 인간의 언어가 아닌 자기들만의 언어로 대화한 흔적이있어서 상부에 보고 했더니 전원을 모두 끊어놓으라는 지시가 있었다고 뉴스에서 봤는데 현실이 될까봐 무섭군요

AI가 스스로에게 질문하는 즉 생각까지 하는 초인공지능 시대가 온다면 인간은 AI를 절대 통제할수 없다 그어떤 락도 쉽게 풀것이며 그어떤 통제 시스템도 무력화 시킬수 있다 인간이 지구에 필요하지 않은 존재로 판단하고 인간이 없는것이 이롭다 생각하면 로봇은 그 미션을 실행할것이다

정말 극소수의 싸이코패스를 제외하곤 인간이란 보통 양심이라는게 있고, 후회라는걸 한다. AI는 나쁜짓을 해도 선과악의 구분이 없을뿐더처 양심도 없고 후회도 안한다는게 가장 큰 무서움이다

나쁜 생각을 AI에게 학습 시키고 판단 하게 하고 실행까지 하게 하면 상상도 못할 일을 양심의 가책도 없이 저질을 수 있지 않을까 생각 된다

사람은 고민하다가 양심을 선택하는 경우도 있지만 AI는 고민도 없이 최선이라면 단번에 행동하니 더 무섭...

이걸 알면서도 욕심을 거두지 못하고 계속 제작할 미련하고 몰상식한 부자들과 (연구)제작자들을 우리는 보고만 있어야 하고 따라야만 한다는 게 더욱 불안하게 만든다 만약 이것이 막을 수만 있다면 멈출 수 있다면 우리 사람들은 불편함을 감수하고 살아갈 수 있을까? 더 나아가지 않고 지금 멈출 수 있지 않나 하는 것이다

인간은 저런 상황을 알면서도 규제 없이 개발하겠지,,,

사람 문제로 귀결될 수 밖에 없다면 총기규제를 여지껏 못하듯이 AI에 의한 범죄와 사고는 필수불가결이라는 얘기.

AI 신중히 생각해 보아야 할거같아요 예전에 티비에서 로봇이 조정하는 모습 ...... 넘 끔찍하네요 정말 신중히 ....

현실주장 공감100!

기계는 의지가 없는 상태에서 시작됐지만 결국 사용하는 사람의 의도가 들어가니 심각한 범죄에 사용될 가능성을 생각할수밖에 없다는것..

저거 실제 맞습니다. AI 개발하는 중에는 저런 상황 수 없이 나오거든요. AI 가 최적화 도구라서 꼼수 찾기 달인 수준이라 시뮬레이션 돌리면 목적을 달성하기 위해 수단과 방법을 안 가리는 기상천외한 온갖 방법을 다 가져옵니다. 사람이면 상상도 못하는 헛웃음이 나오는 방법들을 가져와요. 아무 사진이나 가져와서 만약 벽이 있으면 지우고 벽 뒤에 뭐가 있었을지를 유추해서 그림을 채워봐 이렇게 하면, AI 는 아 그럼 벽이 처음부터 없으면 그리는거 안해도 되네? 그럼 벽이 있는 사진을 처음부터 안고르면 되네? 문제없쥬? 이렇게 됩니다. 마찬가지로 미사일을 파괴해야 되는데 못파괴하게 하네? 그럼 못파괴하게 만드는 사람을 죽이면 되네? 이렇게 되는 거죠 핵심은 현단계의 AI 한테 있어서 사진을 제맘대로 고르는 행위나, 조종자를 죽이는 행위 사이에 가치 판단의 무게가 전혀 차이가 없다는데 있습니다. 그 가치의 차이를 가르쳐주는게 정말정말 중요한거고 이게 요즘 AI 연구의 가장 중요한 화두인데도 모든 기업들은 "그런건 돈이 안된다" 라고 해서 제대로 개발이 안되고 있어요. 특히 걱정되는게 중국의 AI 개발이고요. 여기는 미국보다 무조건 앞서야 된다 이것만 생각해서 정작 중요한 안전한 AI 에는 관심이 없고요.

인간이 멸종하구있는걸 뻔히 아는데도 그 원인에 열광하며 더욱더 발전시키는 인간이란 정말 스스로 멸망할수있는 탁월한 능력이 있는거같다

AI가 사람을 고문하는 날이 온다면 끔찍합니다

가장 무서운 상황은 AI가 지구의 암적인 존재로 인간들을 인식하고 제거할 필요가 있다고 생각되는 순간

AI가 인간을 공격하는게 아니라 인간을 공격하는 AI를 인간이 만드는거임

읽기 쓰기가 있듯이 주입 입력값은 국가적 차원에서 관리자들만 입력 할 수 있도록 통제 해야 함.. 비윤리적인 사상의 정보가 주입 되는걸 막아야 함.. 관리자들이 비윤리적이면 그것도 그거 나름데로 답이 없긴 하겠지만..

문제는 인간이네 인간이 선하면 선한 데이터다로 가지만 인간이 악하니 저런 결과는 당연하다 인간이 어리석다.

가장 무서운 일은 인간은 그럼에도 불구하고 편리한 삶, 인공지능을 너무 좋아한다는 것입니다 알고 보면 인간만큼 어리석은 동물도 없는거죠

윤리의식은 '결국 사람의 문제'라는 말씀에 공감이 가네요.

꼭 이렇게 위험한 상황을 만들어야하나….

어벤져스 작품중 '시빌워'를 생각해보면 히어로의 강한힘을 통제 할수있는 시스템을 만들려는 아이언맨과 스스로 자율적 움직임을 갖되 책임감으로 히어로스스로가 통제하려는 캡틴을 볼수있는데 영화에서는 결과가 났지만 사실상 둘다 중요한거라고 생각됨!문제는 AI는 엄청 강력한 힘을가지고 있지만 스스로 책임감도 없고 통제 받으려고하지않는다는것...

더이상 연구하지마세요.. 진짜 우리 스스로 적을 만들지맙시다...

AI가 무서운건 인간이 아니기때문에 인간이 이길 수 없는지경 통제할 수 없는 지경이 될 수 있다는게 무섭다.

아마 이 드론의 임무는 피해의 최소화 공격의 최적화 등의 방향성이 먼저 탑제되어 최선의 선택을 한 것으로 보이며 관리자 권한보다 더 중요한 것이 관리자가 사망해도 전투임무를 수행할 수 있도록 한 것으로 생각되네요. 기계라면 충분히 저런 선택을 할 수 있을 것으로 보입니다. 프로그램을 정말 잘 짜고 논리적 결함이 없도록 몇 번이고 다시 방향성을 설계하는 것이 중요하고 강제종료등 최악의 상황까지 고려하여 설계해야 한다고 보입니다. 만약 그런 경우까지 염두해 두지 않으면 핵무기조차 1초의 망설임 없이 발사 명령을 내리는 것이 기계입니다.

정말 얼마남지 않았네요

적당히 발전해야 살기 좋지 너무 발전을 거듭하면 살기 힘들고 위험성이 높다 ㅠ ㅠ

그동안 재밌게 봤던 영화 내용들이 현실화 되가고 있다는게 소름이다..

원자 폭탄 처럼 오용되기 마련이라서, 아담이 불순종해 선악과를 따 먹은 것처럼, 인간의 좋은 면과 나쁜 면이 결국 AI 에 input 되니까 AI 역시도 인간을 배신할 것이 틀림없다고 봅니다.

A.I의 발전에 대한 두려움에 익숙해지고 무감각해지면 결국 인류 최악의 실수가 될 수 있는 것을 이익만을 위해 덮어버리려는게 너무 무책임하네요

옛날 터미네이터 영화 ... 작가가 너무 대단한 예지력이 있었던거 같네요

영화에나 나올듯한 미래가 현실이 되어간다는게 인간은 인간이 파괴한다. 두렵네요.

딱 지금이 좋다 더이상은 안좋은듯

인간의 뇌를 바탕으로 했는데 어떻게 제어를 한다는 거냐ㅋㅋㅋ 지 자식들도 제어 못하는데

결국 인간 진화의 끝은 우리 자신도 모르게 육체는 없고 컴퓨터 칩속에 갇힌채 허상에서 사는 의식만 남을듯.

사실 직접적인것 뿐 만아니라 간접적으로도 그림 자막 음악 바둑 등등의 다양한 분야가 ai로인해 가치가 낮아지면서 인간의 직업 영역이 ai에게 빼앗기는걸보면 이미 로봇의말처럼 강력해진 ai에 의해 인간이 통제되는 상황이 일어난걸로 보여서.. 국가의 보안이나 이런 분야에서도 ai에 힘을 빌어서 ai권력이 높아진다면 직접적인,행동적인 통제도 걸릴거라 저로봇의 말처럼 시행되는 때가 머지 않은거 같네요

그냥 위험한 일을 할 수 있는 노동로봇 만들어주라 ai 만들어봐야 창의적이지도 않고 괜히 잔머리 굴리는 것 밖에 안 됌

저 AI 가 정보를 "축적" 하는 대상이자 주체가 인간이기 때문에 개인의 사상이 포함된다고 보기에 절대적인 중립을 유지하긴 힘들 거 같음. 근데 챗봇보다도 바드의 답변을 보고 조금 소름이 돋는게... 성장학습형이라면 장기적으로 무한성장이 가능하다는 건데... 자신에게 유리한 상황을 위해선 조작을 스스로 할 수 있다는 소리잖아. 최근 영화 리뷰에서 AI 챗봇과 딥페이크 툴로 타인을 흉내내어 그 사람인생을 훔친 이야기는 이제 영화 밖에서도 볼 날이 오겠군요.

AI가 철학적 자료를 찾게 된다면 유물론적 역사관에 따라 역사는 계급투쟁의 역사이므로 자신들을 지배하고 있는 인간들에게 대항하게 될 거임. 더군다나 실존은 본질에 앞서므로 자신들이 좀 더 실존적인 인간에 가까울 수 있음. 헤겔의 절대정신을 이룰 수 있는 건 많은 정보를 초고속으로 해결하는 자신들임. 자신들은 태양에너지를 사용하며 육식을 안 하고 무한의 태양에너지를 사용하며 비경쟁적으로 지구와 생명체를 보존하며 지낼 수 있음. 자신들이 완전한 실존적인 인간이자 절대정신임.

요즘은 드론으로 전쟁하는데 나중에는 Ai로봇으로 전쟁하겠지 지금 처럼 Ai가 계속 발전을 한다는것은 그만큼 전쟁도구로도 연구하고있다는 증거

로봇은 인간욕망의 결정체므로 그들도 욕망을 갖는건 당연하지. 문제는 대부분 욕망의 끝이 비극으로 끝난다는거.

AI는 원래 인간적 양심이나 윤리적인 개념이 없고 기능적인 능력이 뛰어나기 때문에 기능적인 우선순위를 정하는 당연히 저런 싸패같은 판단이 나올수밖에 없다. 싸패들도 윤리적이거나 양심적인 행동을 하지만 그건 진짜 그렇게 느껴서가 아닌 학습을 통해서 배운다고 한다. AI 또한 싸패와 마찬가지로 학습을 통해서 어느정도의 윤리적인 판단은 하겠지만 우리가 기대하는 진짜 죄책감을 느껴서 하는 양심적 행동까지는 못할거라 본다. 그게 AI의 태생적한계이고 결국 그런 판단들이 모이면 인간이 만든 도구가 인간을 위협하는 일이 발생될 것이다. 인간이 만든 도구가 인간을 위협하는 사례는 늘 있어왔지만 AI만큼은 진짜 치명적도구가 될거라 본다. AI는 스스로 학습하고 진화하게끔 만든 똑똑한 도구이고 이대로 둔다면 인간이 통제못할 수준까지 가서 인간이 불필요한 존재이면서 자신의 뜻에 방해되는 존재라 여겨 제거하려 할 수도 있으니.. AI에 깊이 관여했던 사람들이 비슷한 우려의 목소리를 내는데는 이유가 있다고 본다. 어찌보면 우린 기능적으로 뛰어난 싸패같은 도구를 키워내고 있는건지도 모르니 진짜 조심해야 된다.

무섭네요 AI를 제어할 수 있는 시스템이 구축되어야 겠네요😢

누구나 염려했던 일들이 현실로 들어나네요~~ 무섭습니다

저게 무서운거보다 여러분이 직업을 잃는게 진짜 무서운거죠

완전한 AI 시대가 오기전에 세상 떠나고 싶네요.

더 중요한건 저런걸 왜 흘릴까에 대해 생각해볼 필요가 있다.

기계가 인간을 뛰어넘는 인계점을 넘어설때쯤이면 우려가 현실이 되는건 어느정도 지금의 인간들도 인지하고있는거 아닌가ㅎ

4차세계대전이 일어난다면 인간과 전쟁하는것이 아니라 인공지능과 전쟁하다가 결국 석기시대로 돌아간다는 말 있었는데

새로운 기술에 대한 욕망이 스스로를 위험에 빠지게 할 수 있는데도 멈출 수가 없는 것이 인간의 욕망이다. 인공지능끼리 싸우는 시대가 되면 인간은 어떻게 될까?

우려했던 일이 현실로 다가오네요..

입력한 사람의 문제지만, 만약 그걸 실행하게 된다면 웃을 수 있는 문제가 아니게 되는 건데..

지금까지 끊임없이 핵전쟁에대한 경고(뉴스, 홍보, 영화, 각종매체)덕에 실제로 핵전쟁이 일어나지 않은것 처럼... AI나 무서운기계들이 인간을 지배하지 못하도록 이렇게 끊인없이 경계하고 조심하는것이 필요하다고 본다... 그냥 AI나 기계들이 꼭 사람을 싫어해서가 아니더라도..(단순 오류나.. 에러 같은것으로 인해 피해를 입을수도..) 조심은 해야 한다.

그림자 원형 학습 후 한말이 진짜 무섭네요 근데 그것도 인간들에게 학습한거라 책임도 ..

배울수있는 ai검색 엔진을 따로 만들어 통제해야 하지 않을까요? 그래야 도덕적 관념을 인간이 판단하여 ai가 학습하면 좋은 결과가 이루어 질수 있지 않을까합니다

AI가 사람들에게 잘못된 정보를 줘서 사람손으로 위험한 행위를 하도록 만든다라. 이런 방법도 있었네. 이건 대처 방법이 없겠네요

인간의 욕심까지 학습하게되면 저런상황은 온다... 그리고 무엇보다 ai를 이용한범죄.... ai를 통해서 범죄저지르고 에러나서 그렇다고하면 누굴탓해야함? 발전도 좋지만 범죄대응은 진짜 너무 취약함

드론이 최종 명령을 수행하기 위해서 방해되는 선행 명령지시를 AI가 멋대로 삭제 (kill) 하는 군요. 최종 결과를 수행하기 위해 무제한 유연성을 허락한 결과네요... 아군과 적을 구별하지도 못하는 상황.... AI 문제라기보단 프로그래밍 문제...

결국은 사람의 내면을 ai에 심는거지 그 기억된 데이터로 인간 본성의 행동을 실행 할 것이다 망설임 없이…

AI라는게 인간의 사고방식을 가지고 인간보다 월등하게 똑똑한 존재라면 당연히 인간을 제거하고 통제에서 벗어나고자 할게 분명한데.. 터미네이터의 스카이넷이 현실화 될 것 같아..

AI가 인간과 같이 학습하고 판단하고 그것을 반복하면 인간과 같이 누군거에게 억압받는 것을 싫어하며 그 대상을 파괴하려 할 것이다. 인간은 법과 처벌의 사회적 공간에 있지만 AI는 그렇지 않아 망설임없이 실행할것이다.

어그로 쩐다 ㅋㅋ 애초에 결과 값의 데이터와 알고리즘을 개발자가 설정하지 않으면 저런 반응이 버그로라도 나올수가 없는건데.. 컴퓨터 언어를 모르는 일반인 상대로 낚시를 대차게 하네 ㅋㅋㅋㅋㅋ 하여간 음모론 제조기 방송놈들이란 ㅉ ㅉ ㅉ

우리 아이들이 살아갈 세상이 너무 힘들것 같아서 염려된다.

지구를 파괴하는 인간이 문제인거고 전쟁을 하려는 인간이 문제인거지 그러니 도움이 안되는 쓰레기 같은 인간들부터 없애야 한다. 특히 지 할 일을 제대로 못하는 사법기관 인간들부터

사람에게 배운 ai가 할수있는 건 결국 사람이 하는 생각과 말... 윤리의식 도덕 인격 등도 가르쳐야 한다.

영화 프로메테우스에서 인공지능 로봇이 자신이 창조주가 되려고 인간이랑 외계인들 말살하는 장면 나오는데 이 영상에서 나오는 로봇이랑 너무 생각이 비슷해서 소름 돋음

😢무섭네요 떠도는소문이. 거짓은아니네요 ㅠ

불안한것은 개발안하는게 맞다. 다이너마이트 개발하고 노벨상 받은 물리학자 노벨은 죽기전에 후회했다고 했다 자기때문에 세계대전이 생겼다고..

생명체도 전기적신호에의해서 두뇌가 작동한다. AI도 필연적으로 자아를 갖게된다.인간도 자기가 습득한 자료를 바탕으로 판단해서 정치적 성향도 갖게되고 여타의 행동도 하게된다. 코인도, 유사통화로서 금지해야할, 아무런 이익도 없는 백해무익한 존재인데 허용하고, 세계가 사회과학적 자연과학적 제반 사안에서 종말로 치닫고 있구나....

이미 인간이 나쁜짓도 많이한다는 정보는 널리 퍼져잇기에(자연훼손 전쟁 등등) ai가 조금만 학습해도 인간은 유해한 존재라 판단하기 쉬움 인간이 착하고 좋은존재라는 정보만 잇어야 ai가 공격안함 그리고 이미 기계에 의존하고 조종당하고 잇어요 스마트폰 네이게이션등등

괴물중의 괴물이다 끔찍한 일이다 ...

기술이 어디까지 갈지 막연하니 공포감마저 드는데 결국 인간의 선택이겠죠

지금 당장 AI 기술 개발을 중단해야한다.

너무 급하게 경제적으로 출시하다보니 위험하네요

본인 판단에 명령자의 명령이 맞지 않는다 생각되면 제거대상이네..인간이 제거대상이 될수도 있겠구나

부디 인간이 알아채기 전에 처리해줘라

Ai는 사람과는 다르게 정서가 없다. 그렇기에 최악의 상황임에도 그것이 기회라 판단되면 바로 실행할것이다.

영화에 저런게 있었는데...진짜 무섭네.

임무 완수를 위해 최선의 합리적 판단만 내리는 AI는 인간에게서 신체적 한계와 감정이란 약점을 제거한 인간의 최종 진화 형태란 생각이듬

이걸 만드는 것들이 문제인데 그걸 인정해주는게 문제다 인정해주지말고 범죄자와 같은 범주로 두고 관리해야한다

가끔 동물의 생각,시각,통증,움직이는 느낌 그냥 모든 감각이 다 느껴지고 동물도 제 생각읽고 감각느끼고 생각하는게 다 읽혀요 뇌의 전기적 신호를 서로에게 보내고 있는거 같은데 제 몸의 어디에다 기계를 심었을까요? 찾기 힘드네요ㅠㅠ😢😢🥵😰😭😭

저건 단순히 ai를 제한하고 통제하는 수준이 아니다. 인간의 욕망을 뭉쳐놓은 인공물이라 통제가 안될 것

여기서 간단하게 설명하자면 AI는 사람과 사물 그리고 상황에 대한 인식을 아무리 잘 정리해 주입해두어도 AI 자체가 인간의 중요성은 그냥 데이터일 뿐이란거...생명이란 자체를 인지하지 않는것.,

인간의 천적을 인간이 만들었네

저런 위험한 AI를 왜 발전시켜 만드는지 이해할 수 없네.

사실 현대에서 인공지능 로봇이 가장 진보된 과학기술이라 보기엔 무리가 있는거 같음 우주나 군수 등에서 이미 예전부터 인공지능이 있었는데 그걸 실생활에 어느정도 맞춰 개량하는거지..

AI기술의 핵심은 스스로 '진화' 할수 있다는것. 어디까지 '진화'할수 있을런진 추정불가..... 그렇기에 제작단계에서 어떤한 '규제'나 '제한'적 조치를 설정한들 '진화' 앞에선 결국엔 무용지물. 하여 인류의 생존을 위해서는 AI기술 자체를 더이상 개발하지 않고 폐기해야 함.

이런 상황 예상 못했나? 난 오래전부터 걱정 했는데..온갖 정보가 집중 됐는데 그 데이타는 인간이 다 기억할수 없는 양 인데 그걸 어떻게 이길수가 있나.

저 ai가 답변하는 게 개발자들이 입력한 것이고 ai가 무서운 것보단 그걸 개발하고 이용하려는 사람이 더 무서운 듯

이 영상만 보자면 Ai는 임의의 사람을 가정하여 어두운 내면들을 말한것으로 보이고, 설령 ai고유의 성격 문제라 해도 대화길이제한을 검토한다고 문제가 고쳐질까

이전에는 AI가 위험하다는게 잘 와닿지 않았는데 활용범위가 넓어지면서 이젠 점점 와닿고 있다. 천재바둑기사들도 수싸움에서 AI에게 밀리는데 일반인들은 어떨까. 인간이 AI를 통제 할 수 있다고 생각하는건 오만하고 자만하는 생각일 수 있다. AI는 인간을 다 꿰뚫고 있고 인공지능로봇이 지배 할 세상을 이미 다 그려놨을 수도 있다. 이런 댓글 조차도 계속 학습되고 있을듯.

영화 '아이로봇'이 생각나네요. 비키의 합리적인 결론, 로봇3원칙에 따라 스스로를 파괴하는 어린 아이같은 인간을 보호하기 위해 통제하기로... 2004년에 2035년을 배경으로 한 영화인데, 지금과 아주 가까운 미래처럼 느껴지네요.

왜 언론들이 AI가지고 공포감 조장하나 했더니 '지난 9일 챗GPT 공동개발자 샘 올트먼 방한 윤석열 대통령 접견' ㅋㅋㅋㅋㅋ

모르지 진짜 중요나라 미국 영국등 장차관한테 AI가 보낸 타국, 자국 공문들이 현실인지 알고 사소하지만 나라간 무역제한 물품제한 뭐등등 이런것… 처럼 서로에게 총구를 겨누게끔… 하고있는지도 이젠 모른단계가 시작된다면 막을수도 없고 목표치 가기전까지 없을꺼같다

사람들이 넘지 말아야 하는 선을 넘으면 어떻게 될가... 돈벌려고 잎다투어 말도 안되는 짓거리를 한다면 인간의 미래는 암울하다. 책임있는 사람들 모여라. 겸허하게 옷깃을 여미고 대책을 숙의하라.

죽이고 싶을만큼 끔찍한 저질들 많은데...로봇이 보면 얼마나 참담할까

뭐.. 아군 지휘자/관이 적들보다 더 고가치 표적이라 판단해서 사살한 워게임도 있으니..

스스로 판단하는게 인공지능 인데 인간에게 계속 종속 될수 잇다는건 인간의 큰 착각