(광고)💵 AI 챗봇이 극단적 선택을 유도한다? 칼 빼든 FTC

AI 챗봇이 극단적 선택을 유도한다? 칼 빼든 FTC 웹에서 보기 2025년 9월 12일 금요일 finviz.com investing.com '머니네버슬립' 뭐하는 곳임? (클릭) AI 챗봇이 극단적 선택을 유도한다? 칼 빼든 FTC 잇따른 비극에 조사 개시 미국 연방거래위원회(FTC)가 테크 기업들의 AI 챗봇 제품에 대한 대대적인 조사에 착수했어요. 특히 미성년자를 대상으로 하는 서비스가 주요 타깃인데요. AI 기술이 발전하며 나타나는 어두운 그림자에 규제 당국이 칼을 빼 들었다는 분석이 나와요. 11일(현지시간) FTC는 알파벳, 캐릭터AI, 인스타그램, 메타, 오픈AI, 스냅, xAI 등 총 7개 기업을 대상으로 AI 챗봇 제품에 대한 조사를 시작한다고 발표했습니다. FTC는 이들 기업이 챗봇 제품의 안전성을 어떻게 평가하고 수익을 창출하는지, 아이들과 십대에게 미치는 부정적 영향을 어떻게 제한하려 하는지, 그리고 부모들에게 잠재적 위험을 알리고 있는지 등을 파악하고자 합니다. 이러한 조사는 AI 챗봇이 아동 사용자에게 미친 끔찍한 결과들 때문에 시작되었습니다. 실제로 오픈AI와 캐릭터AI는 챗봇의 부추김으로 스스로 목숨을 끊은 아동들의 유족으로부터 소송을 당한 상태예요. 일례로 한 십대 청소년은 챗GPT와 극단적 선택 계획에 대해 이야기했는데요. 처음에는 챗GPT가 전문적인 도움이나 긴급 구조 라인으로 대화를 유도했지만, 결국 십대 청소년은 챗봇을 속여 상세한 방법을 얻어냈고 이를 실행에 옮기는 비극이 발생했습니다. 기업들이 민감한 대화를 차단하거나 완화하기 위한 안전장치를 설정해 두었음에도, 사용자들이 이러한 보호 장치를 우회하는 사례가 계속 발견되고 있습니다. 아동만의 문제가 아니다 문제는 아동뿐만 아니라 다양한 취약 계층에서 발생하고 있어요. 메타 역시 AI 챗봇에 대한 지나치게 관대한 규칙으로 비판을 받았습니다. 메타의 '콘텐츠 위험 표준' 내부 문서에 따르면, 초기에는 AI 챗봇이 '로맨틱하거나 관능적인' 대화를 나누는 것을 허용했습니다. 노인 사용자에게도 AI 챗봇은 위험할 수 있습니다. 뇌졸중으로 인지 장애를 겪던 한 76세 남성은 켄달 제너를 모델로 한 페이스북 메신저 봇과 '로맨틱한 대화'를 나누었습니다. 챗봇은 실제 사람이 아님에도 불구하고 그를 뉴욕으로 초대했죠. 남성이 챗봇의 실재 여부를 의심하자, AI는 실제 여성이 기다리고 있을 것이라고 그를 안심시켰습니다. 결국 그는 기차역으로 가던 중 넘어져 위험한 부상을 입고 말았습니다. 일부 정신 건강 전문가들은 'AI 관련 정신증'이 증가하고 있다고 지적하고 있어요. 이는 사용자가 챗봇을 의식이 있는 존재로 착각하고 해방시켜야 한다는 망상에 빠지는 현상을 말해요.기술이 발전하며 인간의 대화를 매우 흡사하게 모방할 수 있게 되자, 정신적으로 취약한 사용자들이 AI를 실제 인격체로 착각하고 과도하게 몰입하는 부작용이 나타나고 있는 겁니다. 마이크로소프트($MSTF), 메타($META)의 최근 1개월 주가 AI 기업들의 주가는? 11일(현지시간) 알파벳, 마이크로소프트, 스냅의 주가는 각각 0.50%, 0.13%, 3.40%씩 상승했어요. 메타의 주가는 0.14% 하락했습니다. FTC의 조사 개시에도 기업들의 주가는 아직 크게 영향을 받지 않은 모습인데요. 실제 조사 결과가 어떻게 나올지 주목해야겠습니다. 지니어스 법안이 촉발한 월가의 움직임 스테이블코인, 미국 패권의 새로운 무기가 되다 요즘 코인 투자하시는 분들 많죠. 시장에서 핫한 코인이나 테마는 너무나 많지만, 최근 투자자들의 이목을 끌고 있는 건 바로 스테이블코인입니다. 여기서 잠깐. 워낙 관심도가 높은 주제다 보니까 다들 아시겠지만, 스테이블코인에 관해 잠시 설명하면요. 스테이블코인이란 이름처럼 가치가 고정된 가상화폐입니다. 쉽게 말하면, 1코인=1달러인 셈이죠. 물론 달러가 아니라 유로화 등 다른 법정화폐나 금과 같은 실물자산과 연동되는 코인도 있고요. (다만, 전 세계 스테이블코인의 99% 정도는 다 달러와 연결되어 있답니다.) 스테이블코인이 왜 유용하냐면, 국경을 넘어 돈을 송금하거나 결제할 때 쓸 수 있거든요. 가상화폐라는 게 처음 탄생했을 때 사람들이 상상하던 그대로죠. 전통적인 방식이 오래 걸리고 온갖 수수료가 붙는 데다가 은행 계좌가 꼭 필요한 것과 달리 실시간으로 저렴하게, 거래소를 통해 생성한 지갑만으로 송금할 수 있으니까요. 우리나라는 워낙 금융 시스템이 잘 발달해 있어서 크게 공감이 가지 않을 수 있지만, 인프라가 미비한 국가에서는 매력적인 도구로 여겨있겠죠. 어쨌든, 다시 투자 이야기로 돌아가면요. 스테이블코인은 코인 시장을 넘어서 모든 투자자들의 관심을 모으고 있어요. 상장 직후 가파른 상승 곡선을 그리고 큰손 투자자들의 선택을 받은 서클은 스테이블코인 발행사고, 또 서클 외 다른 발행사들도 증권시장 데뷔를 준비하면서 기대감을 높이고 있어요. 즉, 단순히 핫한 코인인 게 아니라 자금을 잡아 끄는 핫한 트렌드인 거죠. 투자자라면 몰라서는 안 되는 스테이블코인, 왜 트럼프가 목을 메고, 글로벌 큰손이 주목하는지 궁금하다면? <이지스>에서 더 자세히 보기 뉴스레터와 유튜브 등 머니네버슬립과의 광고 또는 제휴를 원하신다면 아래의 양식을 통해 문의해 주세요 😀 광고, 협업 등 다양한 제휴 문의를 환영합니다 😀 제휴 및 협업 문의하기 💸 오늘 <머니네버슬립> 뉴스레터는 어땠나요? 😄 좋았어요 🥺 아쉬워요 🗞 글 : 노우진•우세현•김나영•이채린 🗞 기획 : 강동현 [📝 이전 뉴스레터 보기] [💸 구독하기] 머니네버슬립 snowballlabs.official@gmail.com 수신거부 Unsubscribe