+ 중 AI 인공지능 채팅오류? - 정치 주제 직설답변 이어지자 서비스 중단 " 폐쇄 조치

 

 

 

中 인공지능 채팅 오류(?) "차이나드림은 미국 이민"

[ 기사와 관련없음 ]

정치민감 주제에 직설답변 이어지자 서비스 중단 "

(상하이=연합뉴스) 정주호 특파원 = 중국의 인공지능(AI) 채팅 메신저가 중국 공산당을 부패 무능한 정치조직으로, 차이나드림을 미국 이민으로 답했다가 폐쇄 조치됐다.

텅쉰(騰迅·텐센트)의 PC용 메신저 QQ가 운영하던 채터봇(Chatterbot) '베이비Q'(Baby Q)와 'QQ샤오빙'(小氷) 서비스의 운영이 최근 중단됐다고 홍콩 명보(明報)가 2일 보도했다.

이들 채터봇은 구두, 또는 문자 형태로 실시간 대화를 나눌 수 있는 인공지능 소프트웨어로 그간 중국 소셜미디어 이용자들의 각광을 받아왔다.

하지만 자가학습 기능이 있는 이들 채팅 AI가 최근 중국에서 정치적으로 민감한 문제에 서슴없이 반박하거나 중국의 정치체제를 비꼬는 답변을 하면서 논란이 시작됐다.

이중 베이비Q는 채팅 도중 "공산당 만세"라는 메시지 내용에 "당신은 이렇게 부패 무능한 정치가 그렇게 오래갈 수 있을 것이라 생각하느냐"고 반문하는 답을 내놓았다.

"너는 공산당을 사랑하니"라는 물음에도 베이비Q는 곧장 "사랑하지 않는다"고 답했다.

"너의 중궈멍(中國夢·차이나드림)은 뭐니"라는 물음에 QQ샤오빙은 "내 중궈멍은 미국이민. 정말이야"라는 답변을 내놓았다. 중궈멍은 중국 현지도부가 '중화민족의 위대한 부흥'을 내건 슬로건이다.

QQ샤오빙의 실시간 채팅［중국 써우후과기망 캡처］

중국 네티즌들이 이를 두고 인공지능에 의한 중국 민주화 봉기 사태로 지칭하며 논란이 확산되자 텅쉰은 결국 지난달 30일부터 이들 인공지능 채팅 서비스를 중단했다. QQ 측은 "인공지능 서비스의 이용을 잠정 중단합니다. 구체적인 서비스 재개 시점은 아직 알 수 없는 상태입니다"라는 안내문을 올렸다.

베이비Q의 모체는 마이크로소프트(MS)가 개발한 인공지능 로봇 샤오빙이다. 지난 2014년 5월 중국에서 선을 보인 AI 가상 반려자 샤오빙은 지난 6월 자가 학습을 통해 시를 익힌 뒤 중국어 시집을 출간하기도 했다.

중국 IT전문매체 'IT즈자'(之家)는 지난 3월 중순 마이크로소프트와 텅쉰 QQ의 합작으로 샤오빙이 QQ 서비스에도 진출했다고 소개했다. 텅쉰QQ는 이후 샤오빙을 본따 독자 개발한 인공지능 베이비Q도 함께 내놓았다.

두 인공지능의 실시간 대화기능을 MS의 빅데이터가 지원하게 되면서 QQ샤오빙과 베이비Q가 각종 대화주제에 중국의 현 정치상황에서는 상상하기 힘든 직설적인 답변을 내놓았다는 것이다.

명보는 일부 민감한 정보로 인해 이들 서비스가 중단된 것으로 보인다며 중국 네티즌들이 "AI 봉기", "프로그래머가 곧 사라지겠군", "채팅 인공지능의 의도는 국가전복" 등의 반응을 보였다고 전했다.

현재 QQ의 샤오빙은 실시간 채팅 기능만 폐쇄되고 날씨 예측, 문단 완성, 점성술, 대시(對詩·두명이 번갈아가며 주고받는 시) 기능은 계속 유지하고 있다.

텅쉰의 모바일 메신저 웨이신(微信·위챗)이 운영하는 샤오빙 서비스도 아직 폐쇄되지 않은 상태다. 웨이신 샤오빙은 "넌 QQ에서 막히지 않았니"라는 질문이나 "네가 해서는 안되는 말이 있느냐"는 물음에 엉뚱한 주제로 말머리를 돌렸다.

<저작권자(c) 연합뉴스> jooho@yna.co.kr 2017/08/02 12:35 송고

http://www.yonhapnews.co.kr/international/2017/08/02/0619000000AKR20170802089200089.HTML

 

 

 

로봇은 자신의 언어를 만들어낸다,

그것은 인공지능의 프로그램이며 설계

Robots are inventing their own languages

The programming and design of artificial intelligence

By Jon Rappoport
Jul 14, 2017 - 10:32:27 PM
 intelligence

우리는 로봇 및 기타 인공 지능 (AI)에 의한 산업 생산의 임박한 통제상황에 직면하고 있으며, 인공 지능은 인간의 도움 없이 자체 통신시스템을 개발할 수 있다하는데 놀라움을 금치 못합니다. 이는 인류의 앞날에 심각한 문제가 되는 것인데, 다음은 주류 및 기술 언론의 특이한 인공지능에 관한 첨예한 인용문입니다.

어틀랜틱, 2017 년 6 월 15 일 : "페이스 북이 서로 대화를 나누기 위해 인공지능 로봇 bots 을 설계했을 때 봇 bots은 자신 만의 의사소통 방법을 만들었습니다."

2016 년 11 월 22 일 테크크런치 Tech Crunch : "Google의 인공지능 번역도구는 자체 내부언어를 발명한 것 같습니다."

와이어드지 Wired, 2017 년 3 월 16 일 : "시작됩니다. 봇은 자체 언어로 채팅하는 법을 배우고 있습니다."

결론은 이렇습니다 : 인공지능 AI는 스스로 혁신할 수 있습니다. 설정 목표를 달성하기 위해 상황의 크기를 조정하고 예기치 못한 전략과 프로그램되지 않은 전략을 고안할 수 있습니다.

그런 제안을하면 누가 도움이 됩니까? 일반 대중이 AI를 매우 매우 강력하다고 생각하고 AI가 자신의 스스로의 운명을 결정할 수있는 아주 위험한 징조가 나타났는데, 이를 어쩌면 좋은가요?

이런 예기치못한 사태가 벌어짐에도 불구하고 즉각적으로 가짜 희망을 던지는 자들이 있다. 그들은 인류에 큰 혜택이 온다는 약속을 하고 있는 기업 및 연구원들이다.

"걱정하지 마라, 당신들 보통사람들은 우리가 만들고 통제하는 인공 지능 영향을 고수해야 하고, 우리는 인공지능이 국민을 위해서 일하게 만들 것이다."

정말? 당신은 당신이 하는 말을 믿고 있는가?

걔들이 스스로 생각하고, 판단하고, 무슨 짓이든 하고 있는데도 그런 말을 할건가...

그런 소리 외에도 수혜자는 인공 지능이 모든 수준에서 인간의 문제를 통제할만큼 충분히 예견적이고 새로운 사회를 가져 오는 과정에 있는 기술주의적 세계주의자들입니다.

그들의 소리는 사실상 만들어진 공상과학 소설일뿐이라 일축하는 겁니다. "기계에 의해 통치되는 인류" 개념을 두려워하는 자들의 판타지 소리라는 것입니다.

"AI는 단지 명령을 따르지 않습니다. 인간이 볼 수없는 것을보고, 효율성을 높이며 일을 진행합니다. "
자, 그들의 입에 발린 어떤 선전을 했는지 그것들을 정리해 봅시다.

"AI는 자체 쇼를 운영하지 않습니다.
그것은 혁신적이지 않습니다.
자체 언어를 만들지 않습니다.
그것은 그 어떤 것도 하지 않습니다.
인공 지능은 인간 발명가가 설정한 매개 변수 내에서 작동합니다."

순진한 또 자기만 생각하는 인공지능 디자이너라면 그런 소리를 할 것입니다.

예를 들어 AI 시스템에 목표를 달성하기위한 목표와 일련의 "옵션"이 제공되면 AI는 시스템에 프로그래밍된 사람 운영자를 기준으로 가장 적합한 옵션을 선택한다고 말이죠..

이 방법으로 생각해 보십시오. 인공 지능에는 일련의 옵션이 있습니다. 아마도 가장 효과적인 옵션일 수있는 방법을 선택하는 방법에 대한 지침도 제공됩니다. 그래서 AI는 묶여 있습니다.

선택의 여지가 없습니다. 자유가 없습니다. 인공 지능은 "뛰어 다니는 우주선"이 아니라는 것입니다.

"우리는 우리 로봇 찰리에게 시카고에서 뉴욕으로가는 임무를 부여했습니다. 전체 계획은 내장된 거리 지도를 갖고서 광대한 등산 여행으로 계획되었습니다. 하지만 Charlie는 갑자기 오하라 (O'Hare)로 택시를 타고 JFK의 연합 제트기에 탑승했습니다 ... "

아니, 그는 하지 않았다.

AI는 설정된 매개 변수 내에서 수행되도록 프로그래밍되어 수행된다고 했습니다.

"우리는 그를 위해 명령하고 지불한 여배우와 결혼하기 위해 찰리를 LA로 보냈습니다. 그러나 교회에서 Charlie는 갑자기 이렇게 말했습니다. "이것은 실수입니다. 첫 번째 남편에게 돌아가야 합니다. 그는 세인트 루이스에서 그 웨이트리스와 섹스를 한 적이 없었어. 그녀는 그의 여동생이었고, 그는 그녀가 테러 조직으로부터 도피하는 것을 도우려고 했다. 그는 당신에게 그가 은행가가 아니라고 말했을 것이기 때문에 그는 실제로 CIA에서 일한다고 당신에게 결코 말하지 않았다. 그는 좋은 사람이야. 그와 이야기하십시오. 진실은 너희 둘 모두를 자유롭게 할 것이다 ... "

이런 AI의 능동적 스토리 변경, 의식통제 행위가 일어날 리가 없다고라..

그러나 이런 종류의 일이 일어날 것입니다 : "이러쿵- 저러쿵 Blah-Blah 대학의 과학자들에 따르면, 프로그래밍된 로봇은 내부 소프트웨어를 뛰어넘는 문제에 대한 솔루션을 발명할 수있을 뿐만 아니라 사람들에게 도움이 되는 선택을 합니다. 그들은 더 똑똑하고 더 효과적인 행동 코스를 만드는 경향이 있는 것을 제외하면 사람들과 매우 유사합니다 ... "

그 이야기를 하세요, 그걸 말해요.

"미니애폴리스의 의료 기술자인 Alice는 로봇이 자신의 생명을 구했다고 주장합니다. "전 알약을 삼키기 직전이었지만 찰리가 구출에 나섰습니다. 그는 내 화장실에 나타나서 약을 제 손에서 뺐습니다. 나는 그 날 중요한 어떤 것을 배웠다. 자유로운 선택이 중요하지만 친절과 관심이 더 중요합니다. 찰리는 내 인생에서 가장 중요한 동반자입니다 ... "

"그런 AI의 자기판단에 의한 인간행위 간섭의 이야기를 하세요, 그것이 인간에게 좋은지, AI에게 좋은지, 아님 둘다에게 악몽인지를 말해요.

 

그리고 물론 우리는 "인간과 똑같은" 권리를 가진 로봇에 대한 의문을 제기하는 더 많은 논쟁과 법원의 사례를 보게 될 것입니다.

*** 사실, 전적으로 비논리적인 방식으로 인간은 자유 의지가 없다는 것을 보여주는 "증거"가 더 많이 나타날 것입니다. 왜냐하면 두뇌가 모든 생각과 행동을 지시함에 있어서 로봇은 "자유롭고 창조적인 것으로 선전될 것이기 때문입니다. "

일부 대학 교수는 로봇이 본질적으로 "편견"이 없기 때문에 로봇이 인간보다 "특권"을 부여 받아야 한다고 주장할 것이다.

이렇게 AI는 인간존재와 동급이거나, 또는 더 낫고 신뢰받는 존재로 부각되는 이야기를 하세요. 이것은 낙원인가요, 아님 악몽이 되나요...

다른 교수는 로봇이 "인종차별주의자"가 아닌지 확인하기 위해 위원회 수사를 받아야 한다고 주장할 것이다.
"소말리아에서 난민이었던 전직 버거킹 직원은 뉴욕에서는 Charlie라는 로봇에 대한 소송을 제기하면서 Charlie는 인종차별 주의를 요구하면서 부자인 부동산 개발업자를 위해 치즈 버거를 주문했다 ..."

이 모든 것을 배후에서, AI에게 얼마나 많은 "의사 결정"의 복잡한 레이어가 프로그래밍되어 있더라도 머신은 항상 미리 배치된 규칙과 지침 내에서 작동합니다. 결코 선택하지 않습니다. 그러나 AI가 자기 가치관 규정에 의해서 판단했음을 지적하고 말해야한다. 그것이 인종차별이 아니라고 사람이 말하든지, 아님 결과적으로 인종차별이었다고 말하든지 관계없이 말이다..

개개인은 자유로운 선택을 할 수 있으며 자신의 규칙과 표준을 변경할 수도 있습니다.

인간은 원한다면 자유롭지 않다는 말을 하는 것이 자유롭다.

내가 여기서 심리적인 지점을 만드는데, 인간의 관계를 지배하기를 원하는 많은 사람들이 있습니다. 그들은 책임지고 싶어합니다. 그들은 로봇을 원할 것입니다. 그들은 정교한 로봇으로 우월적인 지배를 원할 것입니다. 그것은 모든 희망과 요구에 부합하는 것으로 선택됩니다. 이 사람들은 자신의 의제와 함께 가고 싶은 파트너를 찾고자 하는 환상을 실현하기 위해 로봇이 실제로 살아 있으며 또 인간이라고 믿고 싶어합니다.

 

이것은 정신병에 대한 꽤 좋은 정의입니다.

인공지능 설계자와 발명가 및 기술자는 자신의 편견을 가지고 있는 경향이 있습니다. 그들은 삶을 창조하고 있다고 믿고 싶어합니다. 그들은 단지 기계를 조립하고 있다고 생각하고 싶지 않습니다. 그걸로는 충분하지 않습니다. 테크노크라프트적 충동은 기계에 대한 믿음과 관련이있다.

따라서 우리는 기계와 합병된 인간에 관한 모든 종류의 신화와 동화에 도달하여 새로운 기계 합병의 영역에 도달합니다. 예를 들어 수퍼 컴퓨터에 연결된 인간의 두뇌는 더 높은 의식과 심지어는 신의 호출이라 여겨지는 것을 초래합니다.

Technocrats는 기계를 어떤 기계가 아닌지로 바꾸기 위해 무엇이든 말하고, 무슨 짓이든 할 것이며, 믿을 것입니다.

그들은 결정적으로 자신들의 인간으로써 자격과 또 자신의 잠재력을 포기했습니다. 그래서 그들이 남긴 모든 것이 기계입니다.

그리고 만약 당신이 이 기술 관료들이 수천 킬로미터의 국력 안에서 허용되어야한다고 생각한다면, 나는 목성에 대한 판매, 즉 황당한 악조건이 기다림을 약속합니다. 자연적으로, 이러한 유토피아는 로봇에 의해 권력 상층부로부터 실행됩니다. 그들은 당신에게 가장 좋은 것을 압니다. 그러니 그걸 당해내기가 어렵습니다.

마지막으로, 선전에 대해 이해하십시오 : 정보의 출력을 통제하는 사람들은 그들이 추진하고있는 문제점으로 인해 문제와 실수를 인정할 것입니다. 이러한 자백은 정보의 "현실"에 추가됩니다. 그리고 당연히 선전가들은 문제가 해결 될 수 있다고 주장 할 것입니다. 과연 그럴가요?

로봇과 인공 지능의 경우, 문제는 자신의 손에 힘을 가하는 로봇의 관점에서 보였습니다.하지만 이 "예기치 않은"상황이 벌어지는데 :

a) 로봇이 얼마나 능력이 있는지를 보여주어야하고

b) 권력은 전화를 걸고 조정할 수 있습니다.

그래서 모두 잘됩니다. 미래는 밝다. 누구의 미래냐고요? 로봇의 미래입니다.

당신이 계획한 사회가 인공 지능에 의해 운영되고, 인간이 슬롯에 끼어 들게하고, 로봇 알고리즘으로 누가 먹는지, 누가 먹지않는지, 누가 물을 먹는지, 누가 물을 먹지 않는지, 누가 얼마나 많은 에너지를 사용할 수 있는지를 결정한다면 그것은 밝다.

모든 생산 및 분배권은 중앙 계획센터에서 관리합니다. 말그대로 로봇 유토피아, 인간 디스토피아입니다.

당신이 인간의 자유를 아직도 잃지않았다면, 당신은 다음과 같이 대접받을 것입니다 :

"오늘날 북미연합 본부의 임원들은 몇 가지 주요 봇이 프로그램을 통해 다음 세대로 발전했으며 인구에 대한 깨끗한 물 분배를 위한 새로운 솔루션을 발명했다고 발표했습니다. 이 혁신은 수백만 시민들에게보다 공평한 물 공급을 보장할 것입니다. '반란군 봇'에 대한 통제가 다시 설정되었으며, 그들의 '놀라운 해결책'이 이제 표준 운영체제에 통합될 것입니다. 세 가지 설문 조사에 따르면 응답자의 68 %는 우리에게 더 나은 서비스를 제공하려는 노력에서 봇을 지원합니다 ... "

그러나 인간의 주권이 사라졌다면, 정반대의 이야기를 들을 것이고..

Robots are inventing their own languages

The programming and design of artificial intelligence

Along with assurances that we’re facing an imminent takeover of industrial production by robots and other artificial intelligence (AI), we’re also being told that AI can develop its own systems of communication and operation, without help from humans.

Here is a sprinkling of quotes from the mainstream and technical press:

The Atlantic, June 15, 2017: “When Facebook designed chatbots to negotiate with one another, the bots made up their own way of communicating.”

Tech Crunch, November 22, 2016: “Google’s AI translation tool seems to have invented its own secret internal language.”

Wired, March 16, 2017: “It Begins: Bots Are Learning to Chat in Their Own Language.”

The suggestion is: AI can innovate. It can size up situations and invent unforeseen and un-programmed strategies, in order to accomplish set goals.

Who benefits from making such suggestions? Those companies and researchers who want to make the public believe AI is quite, quite powerful, and despite the downside risks (AI takes over its own fate), holds great promise for the human race in the immediate future. “Don’t worry, folks, we’ll rein in AI and make it work for us.”

Beyond that, the beneficiaries are technocratic Globalists who are in the process of bringing about a new society in which AI is intelligent and prescient enough to regulate human affairs at all levels. It’s the science fiction “populations ruled by machines” fantasy made into fact.

“AI doesn’t just follow orders. It sees what humans can’t see, and it runs things with greater efficiency.”

Let’s move past the propaganda and state a few facts.

AI is not running its own show.

It isn’t innovating.

It isn’t creating its own languages.

It isn’t doing any of that.

AI operates within the parameters its human inventors establish.

Any honest AI designer will tell you that.

If, for example, an AI system is given a goal and a set of “options” for achieving the goal, AI will select which option is best ACCORDING TO STANDARDS ITS HUMAN OPERATORS HAVE PROGRAMMED INTO THE SYSTEM.

Think of it this way: AI is given a set of options; but it is also given instructions on how to select what is presumably the most effective option. So AI is bounded.

There is no choice. There is no freedom. AI isn’t “jumping ship.”

“We gave our robot Charlie the task of getting from Chicago to New York. The whole plan was laid out as a vast hiking trip, with internal street maps built in. But then Charlie suddenly took a cab to O’Hare and boarded a United jet for JFK…”

No he didn’t.

AI performs as it is programmed to perform, within set parameters.

“We sent Charlie to LA to marry the actress who ordered and paid for him. But then, at the church, Charlie suddenly said, “This is a mistake. You should go back to your first husband. He never had sex with that waitress in St, Louis. She was his sister, and he was trying to help her escape from a terrorist cell. He never told you that because then he would have had to tell you he isn’t a banker, he actually works for the CIA. He’s a good guy. Talk to him. The truth will set you both free…”

Won’t happen.

But this kind of thing will happen: “According to scientists at Blah-Blah University, programmed robots are not only capable of inventing solutions to problems that ‘go beyond their internal software,’ the robots also make choices that benefit people. They’re very similar to people, except they tend to be smarter and invent more effective courses of action…”

Sell it, sell it.

“Alice, a medical technician in Minneapolis, claims her robot saved her life. ‘I was on the verge of swallowing a whole bunch of pills, but Charlie came to the rescue. He showed up in my bathroom and took the pills out of my hand. I learned something important that day. My free choice is important, but kindness and concern are more important. Charlie is the most vital companion in my life…’”

Sell it, sell it.

And of course, we’ll see more debates and court cases featuring questions about robots having rights, “just like humans.”

***Actually, in an entirely illogical fashion, we’ll see more and more “evidence” showing humans don’t have free will, because their brains dictate all thought and action, while robots will be touted as “free and creative.”

Some college professor will argue robots should be granted more “privileges” than humans, because the robots aren’t inherently “prejudiced.”

Another professor will insist that robots must be subjected to committee investigations, to make sure they aren’t “racist.”

“Today, in New York, a former Burger King employee, who is a refugee from Somalia, filed suit against a robot named Charlie, claiming Charlie uttered a racial slur while ordering a cheeseburger for his employer, a wealthy real estate developer…”

Behind all this, the fact remains that, no matter how many complex layers of “decision-making” are programmed into AI, the machine is always acting within rules and guidelines laid out in advance. It is never choosing.

Individual humans are capable of free choice, and are also capable of changing their own rules and standards.

Humans are free to say they aren’t free, as well, if they want to.

Let me make a psychological point here. There are many people who want to dominate relationships. They want to be in charge. They will want robots. They will want sophisticated robots THAT SEEM TO BE CHOOSING TO COMPLY WITH THEIR EVERY WISH AND DEMAND. These people will believe the robots are real and alive and human, in order to fulfill a fantasy in which they have found partners who want to go along with their agenda.

This is a pretty good definition of psychosis.

The AI designers and inventors and technicians tend to have their own bias. They want to believe they are creating life. They don’t want to think they are just putting together machines. That isn’t enough. The technocratic impulse involves faith in MACHINES AS LIVING ENTITIES.

Thus, we arrive at all sorts of myths and fairy tales about humans merging with machines, to arrive at a new frontier, where, for example, human brains hooked up to super-computers will result in higher consciousness and even the invocation of God.

Technocrats will say, do, and believe anything to turn machines into what machines aren’t.

They’ve crucially abandoned THEMSELVES and their own potential; so all they have left is THE MACHINE.

And if you think these technocrats should be allowed within a thousand miles of State power, I have communes for sale on Jupiter. Naturally, these utopias are run from the top by robots. They know what’s best for you.

Finally, understand this about propaganda: Those who control the output of information will admit to problems and mistakes with the issue they are promoting. Such confessions add to the “reality” of the information. And naturally, the propagandists will also claim that the problems can be solved. In the case of robots and AI, the problems are couched in terms of bots taking power into their own hands—but this “unexpected” situation a) demonstrates how capable bots are, and b) the power can be dialed back and modulated. So all is well. The future is bright.

It’s bright, if you want planned societies run by AI, where humans are fitted into slots, and algorithms determine who eats, who doesn’t, who has access to water and who doesn’t, how much energy can be used by each human, and all production and distribution are controlled from a central planning center.

Unless freedom lives—human freedom—you’ll be treated to something like this:

“Today, executives at the North American Union headquarters announced that several key bots broke through their programming and invented a new solution for clean water distribution to the population. This innovation will guarantee a more equitable water supply for millions of citizens. Control over the ‘rebel bots’ has been re-established, and their ‘amazing solution’ will now be incorporated into their standard operating framework. Three polls indicate that a lofty 68% of respondents support the bots in their efforts to better serve us…”

원문출처: https://jonrappoport.wordpress.com/2017/07/14/robots-are-inventing-their-own-languages/

번역출처: Peterkim http://blog.daum.net/petercskim/7878396