말레이시아 남성, 끝없는 대화로 사기꾼을 속여 시간을 낭비하게 만드는 '사기꾼 대기 중 AI'(SOHAI) 챗봇 개발

사기꾼의 주의를 분산시키는 AI 챗봇, 사기꾼을 괴롭히다

말레이시아의 한 기업가는 사기꾼들이 실제 피해자를 노리는 대신 끝없는 대화에 몰두하게 하여 시간을 낭비하도록 설계된 인공 지능(AI) 챗봇을 개발했습니다.

Replyr.ai의 설립자이자 CEO인 딜런 탄은 온라인 사기를 막기 위한 방법으로 SOHAI(Scammers On Hold AI)라는 이름의 챗봇을 소개했습니다.

AI는 무의미한 토론에 사기꾼을 끌어들이고, 무시하면 반복적으로 후속 조치를 취하며, 모든 상호작용을 Google 스프레드시트 리더보드에 기록합니다.

AI가 속기 쉬운 노인으로 위장하여 사기꾼을 속이는 방법

이 챗봇은 WhatsApp을 통해 작동하며, 관련 없는 질문, 이상한 답변, 변명으로 사기꾼을 공격하고 대화를 연장하는 혼란스러운 노인 여성인 마담 소의 페르소나를 채택했습니다.

Tan은 링크드인 게시물에서 이렇게 설명했습니다,

"사기범이 연락을 하거나 사기 광고를 보게 되면 소하이의 전화번호를 알려주세요. 소하이는 마담 소인 척하며 핑계를 대고, 말을 돌리고, 모호한 태도를 취해 사기꾼의 시간을 무한히 낭비할 것입니다. 사기범이 답장을 보내지 않으면 소하이는 사기범에게 후속 연락을 취해 다시 괴롭힐 것입니다."

출처:딜런 탄의 링크드인

일반적인 챗봇과 달리 SOHAI는 매번 즉각적으로 응답하지 않습니다.

대신, 때로는 몇 초 이내, 때로는 몇 시간 또는 하루가 지난 후에 무작위 간격으로 응답하여 사기꾼의 참여를 최대한 오래 유지합니다.

리더보드에 기록된 챗봇의 대화 내용

각 대화는 Google 스프레드시트 리더보드에 기록되어 낭비된 시간과 사용된 전략이 요약되어 있습니다.

출처:Facebook 그룹

이를 통해 사용자는 소하이가 사기꾼을 얼마나 오랫동안 점유하고 있었는지 확인할 수 있습니다.

Tan은 영어, 말레이어, 중국어 등 여러 언어로 된 챗봇의 일부 대화 스크린샷을 공유하여 다양한 사기꾼을 상대할 수 있는 챗봇의 능력을 보여주었습니다.

출처:Facebook 그룹

출처:Facebook 그룹

그는 이렇게 썼습니다,

"사기꾼이 낭비하는 1분은 다른 사람에게 사기를 치는 시간이 1분 줄어드는 것과 같습니다. 즐기세요!"

봇 차단을 통한 사기꾼의 반격

이 챗봇은 처음에 하나의 전화번호를 사용하여 운영되었으며, 피해자들이 사기꾼에게 전달할 수 있도록 공개적으로 공유되었습니다.

하지만 탄은 나중에 사기범들이 이 번호를 알아차린 후 해당 번호가 차단되었다고 업데이트했습니다.

출처:인스타그램

그럼에도 불구하고 그는 곧 새로운 번호가 도입될 것이라고 확신했습니다.

또한 탄은 소하이는 여러 계정을 사용하여 복제할 수 있기 때문에 사기꾼이 하나의 번호를 인식하고 차단하더라도 계속 사용할 수 있다고 언급했습니다.

사용자들의 다양한 반응

이 AI 봇은 소셜 미디어 사용자들로부터 열렬한 반응을 얻었으며, 많은 사람들이 알려진 사기꾼을 상대로 테스트해보고 싶어 했습니다.

일부는 챗봇을 개인적인 대화를 처리하는 데 사용하자는 농담을 하기도 했고, 다른 일부는 사기꾼들이 이에 대응하기 위해 자체 AI를 개발할 수 있다는 우려를 표하기도 했습니다.

한 댓글 작성자는 기혼 남성이 아내의 메시지를 처리할 수 있는 인공지능을 만들 것을 제안했습니다.

출처:링크드인

또 다른 사용자는 나이지리아에서 온 사기 혐의자에게 이 정보를 사용할 준비가 되어 있다고 주장했습니다.

출처:링크드인

일각에서는 SOHAI의 효과가 얼마나 오래 지속될지 불확실하지만, 탄은 시스템을 지속적으로 조정하고 개선함으로써 이 도구가 오랫동안 사기꾼들을 능가할 수 있을 것이라고 믿습니다.