최고 AI 이러한 간단한 이미지를 인식할 수 없습니다.

참고: 점점 더 많은 것 더 어려운 인공 지능에 따라, 그것 된다 더 중요 더 많은이 문서에 필요한 후자의 결함을 찾을.

패턴 이란 무엇입니까? 그것은 간단한 옐로우-블랙 바입니다. 그러나 가장 진보 된 AI를 묻는다면 대답 것입니다 학교 버스, 그리고 99% 확신. 하지만 AI는 잘못.

그것은 사실 컴퓨터 이미지 인식 기술을 지금입니다 매우 고급. 예를 들어 다음 이미지 AI 치와와 강아지 멕시코 모자 (어떤 사람들 수 그것을 인식 하지), 인식할 수 없는 하지만 적어도 그것은 확인 될 수 있다 강아지로 넓은 챙 모자와 함께. 하지만 와이오밍 대학의 진화 인공 지능 연구소는 이러한 인공 지능 있을 수 있습니다 제안 하지 항상 너무 밝고, 오프닝 예제에 의해 최근 연구, 가장 진보 된 AI이 임의로 생성 된 간단한 이미지 앵무새, 탁구 라켓, 베이글 또는 나비.

이 발견 다니는 우리는 분명 하지만 중요 한 사실 인정: 컴퓨터 비전 인간의 비전 동일할는 없습니다. 그리고 우리는 점점 더 이미지를 인식 하도록 컴퓨터를 훈련 신경 네트워크에 의존 하 고, 이후 어떤 컴퓨터 생각은 하지도 우리에 게 알려진.

AI를 속이기 위해 진화 알고리즘을 사용 하 여

진화 알고리즘에 의해 생성 된 임의의 이미지, 이미지 아래 텍스트는 AI로 식별 되는 개체입니다.

한 가지 방법은 이러한 자기 훈련 알고리즘의 영리 알아낼 그들의 어리석음에서 보는 것입니다. 연구원은 가장 고급 이미지 인식 신경 네트워크 활성 오류 메시지에 감염 될 경우 보고 하기로 했다. 예를 들어 이러한 신경 네트워크 고양이 인식, 그들은 또한 인식 합니까 다른 것 들 고양이?

이 위해, 연구원은 비주얼 디 코로 랜덤 이미지 생성 진화 알고리즘 사용. 그들은 먼저 프로그램을 사용 하 여 이미지를 생성 하 고 이미지를 약간 변경. 원본 이미지와 약간 수정 된 다이어그램 다음 imagenet 훈련에 따라 신경 네트워크에 표시 됩니다. 수정된 다이어그램 수 개체에 원래 보다 AI에 의해 간주 됩니다, 경우 연구원 수정 된 다이어그램을 유지 하 고 프로세스를 반복 합니다. 그렇지 않으면, 되감기 하 고 다시 시도 하십시오. 결과 최고의 사람들이 살아남을-또는 컴퓨터의 가장 인식할 수 있는 이미지 (가장 적절 한) 보다는 살아 난다.

마지막으로, 기술은 99% 이상 수십 신경 네트워크의 진정한 신뢰성의 이미지를 생성합니다. 그들은 블루 오렌지 물결 라인, 일부 옐로우-블랙 줄무늬와, 그러나 AI 눈은 불가사리 (스타 물고기)와 스쿨 버스 (학교).

블랙 박스 페어링

Ai는 왜 속지? 어떤 경우에는 이해할 수 있다입니다. 예를 들어 당신은 곁 눈 질 하는 경우 스쿨 버스 (학교) 사이 노란색과 검은색 줄무늬 처럼 보이게지 않습니다. 마찬가지로, 임의로 생성 된 "군주 나비" 나비의 날개 처럼 보여요 그리고 이미지 간주 "스키 마스크" (스키 마스크)는 과장 된 얼굴 처럼 보여요.

하지만 연구원은 또한 인공 지능을 순수 정적 이미지를 종종 속지 발견. 사용 후 약간 다른 진화 기술, 연구원은 이미지 (아래 사진)의 또 다른 세트를 생산. 이러한 이미지는 깨진된 TV에 이미지 처럼 인간의 눈에 거의 동일 합니다. 하지만, 가장 진보 된 신경 네트워크 눈에 이들은 지 네 (지 네), 치타 (Cheetah), 공작 (공작) 등등.

연구자의 눈에 신경 네트워크는 다양 한 개체를 식별 하는 데 도움이 시각적 단서를 보인다. 이러한 단서의 일부 (예: 학교 버스 예), 인 간에 게 익숙한 고 다른 되지 않습니다. 위의 예제는 적어도 어떤 시점에서 이러한 단서는 세분화 된입니다. 아마도 훈련 후, 신경 네트워크 "녹색 녹색, 자주색, 녹색"의 시리즈 보고 공작 보고 하는 패턴으로 픽셀. 그래서 때 임의로 생성 된 이미지를 정확 하 게 동일한 픽셀 시리즈 생산, AI 공작으로 취급 합니다. 즉, AI 각 개체에 대 한 단서의 숫자를 유추 할 수 있습니다 이러한 단서는 개체를 식별 하기에 충분.

물론, 이러한 이미지 AI를 바보로 인간 만들어 또한 크기와 신경 네트워크의 복잡성은 인간의 이해-도의 범위를 넘어 AI 이미지를 인식할 수 있습니다 하지만 그들은 그들을 인식 하는 방법을 모른다 알고 있다면 문제를 보여줍니다.

이 연구의 목적은 리버스 엔지니어링에 의해 인공 지능 모델을 추론 하 고 인공 지능의 학습 아이디어를. 비록 여전히 아주 많이, 하지만 최근 블랙 박스 연구의 2 년 할 수 있다 살짝.

Ai의 비전에 대 한 문제는?

연구팀은 신경 정보 처리 시스템에 회의 연구 결과 발표, 전문가 스 탁와 의견을 형성 했다. 약간 더 오래 된, 경험 많은 분야의 사람들의 그룹, 그들은 결과 완벽 하 게 이해할 수 있는 생각. 기타 상대적으로 젊은, 그리고 결과 대 한 그들의 태도 혼란. 적어도 처음에 그것은 놀라운 강력한 알고리즘은 결과 잘못 완전히 했다 했다. 이 사람들은 약간 더 젊은, 하지만 그들은 최고 AI 대회에서 기사를 출판 하는 모든 사람들이 명심 하십시오.

Clune, 연구 팀의 머리의 의견에서이 분야에서 세대 교대를 반영 한다. 몇 년 전, AI 사람들이 AI를 개발 했다. 자, 신경 네트워크 그래서 연구원은 그들을 사용할 수 있는 고급입니다.

그것을 반드시 나쁜 일이 아니다. 하지만 점점 더 많은 것 인공 지능에 따라 구축, 그것은 점점 인공 지능 결함을 발견 하는 것이 중요. 그것은 동물의 어떤 종류에 대 한 몇 가지 임의의 픽셀 실수 무해 하지만 AI 안전 검색 필터를 통해 특정 포르노 이미지 슬립 하 게 하는 경우 그것은 매우 심각. Clune 연구 알고리즘에 이미지의 전체 구조를 고려해 다른 연구자 영감 수 있습니다 기대 하고있다. 즉, 확인 컴퓨터 비전 인간 시각에 가깝다.

연구는 또한 우리 AI 취약점의 다른 형태를 고려 하 라는 메시지가 나타납니다. 그래서 유사한 결함은 얼굴 인식, 예를 들어 비슷한 기술에 의존 합니다.

컴퓨터 비전 로컬 기능에 초점을 맞추고, 경우 아마도 3D 인쇄 코 설치 당신이 다른 사람이 생각 하는 컴퓨터를 만들 수 있습니다. 마스크를 착용 하면 감시 시스템에서 사라질 수 있습니다. 컴퓨터 비전의 광범위 한 응용 프로그램, 같은 함정에 대 한 더 큰 가능성.

그러나 넓은 의미에서이 연구에서 경고 우리 스스로 학습 시스템의 시대는 입력 이다. 지금, 우리는 여전히 우리가 개발한 제어 합니다. 그러나 AI는 자체 개발 하 고, 어느 날 우리 알 그것 우리 AI 이해가 놀라운 일이 아니다. "컴퓨터 할은 더 이상 작성 된 코드를 작성 하는 사람들에 의해," Clune 말했다. "이것은 거의 지적인 모습에서 발생 하는 규모의 경제 사이 상호 작용." "우리는 확실히 안 시간을 낭비이 지능형 사용에. 하지만 우리가 그렇게 할 때 우리는 완전히 그것을 이해 하는 여부를 명확 하지 않다.