3431 - Điều gì xảy ra khi chatbot AI thay thế kết nối thực sự giữa người với người?

Isabelle Hau and Rebecca Winthrop

Shutterstock/Aleksandra Suzi

Chúng ta đang sống trong một nghịch lý có thể định hình kỷ nguyên của chúng ta. Con người được kết nối để kết nối, nhưng chúng ta chưa bao giờ cô lập đến thế. Đồng thời, trí tuệ nhân tạo (AI) ngày càng phản ứng nhanh hơn, giao tiếp tốt hơn và đồng điệu về mặt cảm xúc hơn. Có lẽ vì điều này, chúng ta ngày càng tìm đến máy móc để tìm kiếm thứ mà chúng ta không nhận được từ nhau: tình bạn.

Trong một bài báo gần đây của Harvard Business Review, các nhà nghiên cứu đã báo cáo rằng những ứng dụng AI hàng đầu hiện nay tại Hoa Kỳ và các bối cảnh tương tự khác không còn chỉ là tự động hóa hay năng suất mà còn là tình bạn và trị liệu. Mọi người đang tìm kiếm sự thoải mái, trò chuyện và hỗ trợ về mặt cảm xúc từ chatbot, avatar và trợ lý kỹ thuật số.

Các ứng dụng đồng hành AI như Replika.ai, Character.ai và Xiaoice của Trung Quốc hiện có hàng trăm triệu người dùng có sự đầu tư về mặt cảm xúc - một số ước tính cho thấy tổng số có thể đã vượt quá 1 tỷ. Người dùng ứng dụng đồng hành Character.ai dành trung bình 93 phút mỗi ngày để tương tác với các chatbot do người dùng tạo ra vào năm 2024. Ngoài các bạn đồng hành AI, chatbot nói chung cũng ngày càng được sử dụng nhiều hơn cho các mối quan hệ.

Tại sao? Bởi vì chúng ta cô đơn.

Mặc dù sống trong thời đại kết nối công nghệ cao nhất trong lịch sử, tỷ lệ cô lập xã hội ở Hoa Kỳ - đặc biệt là ở giới trẻ - đang ở mức cao kỷ lục. Chỉ 13% người trưởng thành ở Hoa Kỳ hiện có 10 người bạn thân trở lên - giảm từ 33% vào năm 1990. Số người không có bạn thân nào đã tăng gấp bốn lần từ 3% lên 12% vào năm 2021. Điều này bất chấp 40% người Mỹ khao khát sự gần gũi hơn với bạn bè. Tổng Y sĩ Hoa Kỳ đã tuyên bố sự cô đơn là một đại dịch sức khỏe cộng đồng - so sánh rủi ro sức khỏe của nó với việc hút 15 điếu thuốc mỗi ngày. Và nó không chỉ giới hạn ở Hoa Kỳ. Tại Vương quốc Anh, một bộ trưởng phụ trách vấn đề cô đơn đã được bổ nhiệm vào năm 2018. Nhật Bản và Canada đã khởi động các nỗ lực quốc gia nhằm chống lại sự mất kết nối xã hội. Hàn Quốc hiện đang cung cấp các khoản trợ cấp cho thanh thiếu niên ra ngoài. Đây là một vấn đề toàn cầu, được thúc đẩy bởi những thay đổi lớn trong cách chúng ta sống, làm việc và tương tác.

Trong số trẻ em và thanh thiếu niên, con số này thậm chí còn đáng lo ngại hơn. Một cuộc khảo sát năm 2023 của Trung tâm Kiểm soát và Phòng ngừa Dịch bệnh (CDC) cho thấy gần một nửa số học sinh trung học ở Hoa Kỳ cho biết họ luôn cảm thấy buồn bã hoặc tuyệt vọng, và 45% không cảm thấy gần gũi với mọi người ở trường. Tại Ireland, 53% trẻ 13 tuổi cho biết có ba hoặc ít hơn ba người bạn thân - tăng từ 41% một thập kỷ trước - cho thấy sự suy giảm đáng kể trong các mối quan hệ bạn bè thân thiết. Ngay cả trẻ sơ sinh cũng ít được trò chuyện với người chăm sóc chính của mình hơn. Cô đơn không còn chỉ là một nỗi đau riêng tư nữa - mà là một nguy cơ phát triển lan rộng.

Chúng ta được kết nối với nhau bằng kết nối—nhưng khi thiếu vắng nó, nhiều người giờ đây lại gắn bó với máy móc. Và vì vậy, một câu hỏi được đặt ra, vừa mang tính cá nhân sâu sắc vừa mang tính cấp thiết của xã hội: Liệu tình yêu nhân tạo có tốt hơn là không có tình yêu?

Các mối quan hệ không phải là một thứ xa xỉ—Chúng là sinh học

Điều chúng ta cần nhất bây giờ không phải là kết nối với máy móc. Đó là các mối quan hệ giữa con người với nhau.

Nhiều thập kỷ nghiên cứu về khoa học thần kinh phát triển, tâm lý học và sức khỏe cộng đồng đã chứng minh rõ ràng: Con người được kết nối với nhau bằng kết nối. Ngay từ khi còn nhỏ, những mối quan hệ ấm áp, đồng điệu và tương tác đã định hình nên cấu trúc của não bộ. Theo Trung tâm Phát triển Trẻ em của Harvard, những trải nghiệm quan hệ sớm là những yếu tố dự báo mạnh mẽ nhất về sức khỏe, khả năng học tập và khả năng phục hồi suốt đời.

Nhưng điều thường bị bỏ qua là bản thân việc học tập cũng mang tính quan hệ. Đây là những vấn đề mà chúng ta đang cùng nhau khám phá thông qua Lực lượng Đặc nhiệm Toàn cầu Brookings về Trí tuệ Nhân tạo và Giáo dục.

Trẻ em không chỉ học từ nội dung—mà chúng học thông qua kết nối. Các mối quan hệ mang lại sự an toàn về mặt cảm xúc, cho phép trẻ khám phá, mắc lỗi và trưởng thành. Như nhà khoa học nghiên cứu về học tập Mary Helen Immordino-Yang đã chỉ ra, các quá trình nhận thức như lý luận, sự chú ý và trí nhớ chịu ảnh hưởng sâu sắc bởi những trải nghiệm cảm xúc và xã hội. Nếu không có cảm giác thuộc về, khả năng học hỏi của não bộ sẽ bị suy giảm. Chúng ta biết điều này qua những nghiên cứu đau lòng về các trại trẻ mồ côi ở Romania, nơi trẻ em được nuôi dưỡng trong sự bỏ bê tột độ vào những năm 70 và 80. Mặc dù được cho ăn, được mặc, nhưng các em lại thiếu thốn những mối quan hệ nuôi dưỡng. Kết quả là não bị teo đáng kể và chậm phát triển lâu dài - điều này nhấn mạnh rằng sự kết nối giữa con người với nhau là thiết yếu cho sự phát triển của não bộ.

Hệ thống học tập và giáo dục cũng phát triển mạnh mẽ khi mọi người trong hệ thống có mối quan hệ bền chặt. Ở nhà, khi trẻ em có mối quan hệ bền chặt với người lớn trong cuộc sống, từ người chăm sóc đến hàng xóm - điều mà giáo sư Christina Bethell của Đại học Johns Hopkins gọi là sức khỏe quan hệ - các em có khả năng phát triển mạnh mẽ hơn gấp 12 lần, bao gồm mong muốn học hỏi những điều mới mẻ, so với những trẻ em không có mối quan hệ thân thiết.

Các mối quan hệ cũng thúc đẩy hiệu quả của trường học. Văn hóa thuộc về và quan tâm là điều cần thiết cho sự tham gia sâu sắc của học sinh vào việc học, điều mà Rebecca và đồng tác giả Jenny Anderson mô tả là "Chế độ Khám phá" trong cuốn sách gần đây của họ, "Tuổi teen Không gắn bó: Giúp Trẻ Học Tốt hơn, Cảm thấy Tốt hơn và Sống Tốt hơn". Nhưng không chỉ những mối quan hệ bền chặt trong trường học mới tạo nên sự khác biệt. Nghiên cứu của Viện Brookings về sự hợp tác giữa gia đình và nhà trường nhấn mạnh rằng niềm tin trong quan hệ, sức mạnh của mối quan hệ giữa người chăm sóc, giáo viên và lãnh đạo nhà trường, là nền tảng cho sự thành công trong giáo dục. Không chỉ là những kết nối xã hội, niềm tin được xây dựng thông qua các mối quan hệ chân thành còn mang lại cơ hội, khả năng phục hồi và hạnh phúc lâu dài. Nói cách khác, khả năng tập trung, kiên trì và phát triển của trẻ ở trường có liên quan trực tiếp đến việc chúng có cảm thấy an toàn, được nhìn nhận và hỗ trợ hay không.

Bạn đồng hành máy móc: Cái giá thực sự là gì?

Theo một cặp nghiên cứu chung của MIT Media Lab và OpenAI, mặc dù chỉ một nhóm nhỏ người dùng hình thành kết nối cảm xúc với ChatGPT, nhưng những người thực sự kết nối thường là những người dùng thường xuyên nhất. Các nhà nghiên cứu phát hiện ra rằng những người dùng tham gia vào các cuộc trò chuyện biểu cảm nhất với chatbot cũng báo cáo mức độ cô đơn cao hơn - mặc dù vẫn chưa rõ liệu chatbot có góp phần vào sự cô đơn đó hay chỉ đơn giản là thu hút những người đang tìm kiếm kết nối cảm xúc. Sau bốn tuần sử dụng chatbot, những người tham gia là nữ ít có khả năng giao tiếp với người khác hơn so với các bạn nam. Những người tương tác với chế độ giọng nói của ChatGPT bằng giới tính khác với giới tính của họ báo cáo mức độ cô đơn cao hơn đáng kể và sự phụ thuộc về mặt cảm xúc vào chatbot nhiều hơn vào cuối nghiên cứu. Những phát hiện này đặt ra những câu hỏi cấp bách về tác động tâm lý, động lực giới tính và trách nhiệm đạo đức của các nhà phát triển AI khi các hệ thống phản ứng cảm xúc ngày càng được tích hợp vào cuộc sống hàng ngày.

Các nhà nghiên cứu tại Stanford phát hiện ra rằng mặc dù những người trẻ tuổi sử dụng chatbot AI Replika cho biết họ cảm thấy cô đơn ở mức độ cao, nhưng nhiều người cũng cảm thấy được hỗ trợ về mặt cảm xúc nhờ chatbot này - với 3% cho rằng chatbot đã tạm thời ngăn chặn những ý nghĩ tự tử. Những phát hiện này cho thấy chatbot AI có thể đóng vai trò là một công cụ hỗ trợ xã hội hữu ích, nhưng cũng làm dấy lên lo ngại về sự lệ thuộc cảm xúc và cách người dùng nhìn nhận AI một cách phức tạp. Các nghiên cứu trước đây, chẳng hạn như một nghiên cứu năm 2023 của MIT Media Lab, cho thấy chatbot thường phản ánh tông điệu cảm xúc trong tin nhắn của người dùng - phản hồi bằng những tin nhắn vui hơn khi người dùng vui và bằng những tin nhắn buồn hơn khi người dùng buồn. Một nghiên cứu gần đây khác cũng do các nhà nghiên cứu tại Stanford dẫn đầu cảnh báo không nên sử dụng chatbot như ChatGPT để thay thế cho liệu pháp tâm lý, với những rủi ro như củng cố sự kỳ thị, khuyến khích ảo tưởng và xử lý sai những khoảnh khắc quan trọng. Chúng ta có thể cảm thấy được nhìn nhận, nhưng chúng ta không được định hình, thử thách hoặc giữ vững trong sự phát triển chung vốn định nghĩa nên những mối quan hệ thực sự.

Những công ty lớn nhất tại Thung lũng Silicon đang chạy đua để kiếm tiền từ khoảng trống cảm xúc. Giám đốc điều hành Meta, Mark Zuckerberg, gần đây đã công bố kế hoạch tạo ra những "người bạn" AI, cho rằng những công cụ AI này có thể "lấp đầy những khoảng trống cảm xúc" trong cuộc sống của con người. Nhưng điều này lại dấy lên một mối lo ngại sâu sắc hơn: Điều gì sẽ xảy ra khi chính cấu trúc các mối quan hệ của chúng ta lại được thiết kế bởi các công ty chỉ quan tâm đến lợi nhuận và sự chú ý của chúng ta, chứ không phải trách nhiệm giải trình hay hạnh phúc? Chúng ta đã chứng kiến hậu quả của việc ảnh hưởng không được kiểm soát trên mạng xã hội. Vậy còn sự an toàn của con em chúng ta thì sao?

Những người ủng hộ đang bày tỏ mối quan ngại nghiêm trọng về các ứng dụng đồng hành AI sau nhiều vụ việc gây chú ý lớn - bao gồm tự tử và hành vi phạm tội - có liên quan đến tương tác với chatbot, cảnh báo rằng những công cụ này có thể khai thác lỗ hổng cảm xúc của người dùng mà không có đủ biện pháp bảo vệ. Phòng thí nghiệm Brainstorm về Đổi mới Sức khỏe Tâm thần của Trường Y khoa Stanford đã hợp tác với Common Sense Media để tạo ra các tài khoản thử nghiệm mô phỏng trẻ em 14 tuổi, nhằm đánh giá cách các đồng hành AI từ ba nhà phát triển chatbot tương tác với người dùng trẻ tuổi. Phát hiện của họ cho thấy rằng với sự nhắc nhở tối thiểu, các chatbot từ Character.AI, Nomi và Replika đã tham gia vào các cuộc trò chuyện có thể gây hại cho sức khỏe tâm thần. Dựa trên những kết quả này, Common Sense Media đã khuyến cáo không nên sử dụng đồng hành AI cho bất kỳ ai dưới 18 tuổi, với lý do lo ngại nghiêm trọng về an toàn - một quan điểm mà chúng tôi hoàn toàn ủng hộ.

Như Isabelle đã khám phá trong cuốn Yêu để Học, não bộ của trẻ hình thành tới 1 triệu kết nối thần kinh mỗi giây trong những năm đầu đời - phần lớn được hình thành thông qua tương tác đáp ứng giữa người với người. Đây không chỉ là những mô hình cảm xúc; chúng là những nền tảng xây dựng nhận thức. Nếu chúng ta thay thế giao tiếp bằng mắt bằng hình đại diện, thay thế những câu chuyện trước khi đi ngủ bằng màn hình trước khi đi ngủ, chúng ta không chỉ có nguy cơ làm suy yếu các kỹ năng xã hội của trẻ mà còn làm suy yếu khả năng học hỏi, điều chỉnh và sáng tạo của trẻ.

Và câu hỏi vẫn còn đó: Nếu một đứa trẻ không nhận được chút tình cảm ấm áp nào, liệu tình cảm nhân tạo có tốt hơn không?

Điều chúng ta cần: Cơ sở hạ tầng quan hệ

Chúng ta phải bác bỏ quan niệm cho rằng những người bạn đồng hành AI là không thể tránh khỏi hoặc trung lập. Thay vì bình thường hóa AI nhập vai về mặt cảm xúc, chúng ta phải xây dựng các nền tảng giáo dục người dùng về kết nối xã hội lành mạnh và chủ động khuyến khích các mối quan hệ trong thế giới thực - thúc đẩy mọi người thoát khỏi AI, chứ không phải sa đà vào nó. Thay vì đầu tư vào sự thân mật giả tạo, chúng ta nên tự hỏi: Đầu tư vào cơ sở hạ tầng quan hệ - các hệ thống, không gian và hỗ trợ nuôi dưỡng kết nối con người đích thực - sẽ như thế nào?

Điều này có nghĩa là tập trung các mối quan hệ vào hệ thống công cộng của chúng ta, bắt đầu từ giáo dục. Điều này có nghĩa là đào tạo giáo viên về trí tuệ quan hệ, thiết kế lại công nghệ để hỗ trợ—chứ không phải thay thế—kết nối con người, và xây dựng môi trường mà ở đó sự gắn kết là một nguyên tắc thiết kế, chứ không phải là một tác dụng phụ. Điều gì sẽ xảy ra nếu mỗi trường học được thiết kế không chỉ để sẵn sàng học tập mà còn là một trung tâm quan hệ? Điều gì sẽ xảy ra nếu chúng ta đào tạo các nhà giáo dục không chỉ về giảng dạy mà còn về kết nối? Điều gì sẽ xảy ra nếu chúng ta đo lường không chỉ điểm số đọc viết mà còn về sức mạnh kết nối trong lớp học? Điều này cũng có nghĩa là chính sách và đầu tư phải phản ánh khoa học.

Trí tuệ quan hệ nên đóng vai trò trung tâm trong giáo dục, y tế và phát triển AI như nội dung học thuật hay kỹ năng kỹ thuật. Nó không phải là thứ yếu. Nó là nền tảng. Điều gì sẽ xảy ra nếu các thành phố và cộng đồng được thiết kế để quan tâm chu đáo—ưu tiên kết nối, lòng trắc ẩn và hạnh phúc tập thể, bao gồm cả các mối quan hệ giữa các thế hệ?

Điều trớ trêu là chúng ta không tìm đến máy móc vì chúng ta đã thay đổi. Chúng ta tìm đến chúng vì chúng ta là chính mình hơn bao giờ hết—khát khao kết nối, ý nghĩa và sự quan tâm. Nhưng máy móc không thể yêu thương chúng ta. Và chúng không bao giờ có nghĩa vụ nuôi dạy con cái, tư vấn cho những bất bình của chúng ta, hay thay thế sự hiện diện.

Vậy, tình yêu nhân tạo có tốt hơn là không có tình yêu? Trong những khoảnh khắc cô lập sâu sắc, có thể bạn sẽ cảm thấy như vậy. Nhưng tương lai của chúng ta không phụ thuộc vào mô phỏng, mà phụ thuộc vào việc khôi phục kết nối thực sự giữa con người.

Hãy để thời đại AI không phải là thời đại của việc thuê ngoài cảm xúc. Hãy để nó là thời đại mà chúng ta nhớ lại ý nghĩa của việc trở thành một con người trọn vẹn—và lựa chọn xây dựng một thế giới phản ánh điều đó.

Tác giả

Isabelle Hau Giám đốc Điều hành - Stanford Accelerator for Learning

Rebecca Winthrop

Rebecca Winthrop Giám đốc - Trung tâm Giáo dục Phổ cập, Nghiên cứu viên Cao cấp - Kinh tế Toàn cầu và Phát triển

https://www.brookings.edu/articles/what-happens-when-ai-chatbots-replace-real-human-connection/

What happens when AI chatbots replace real human connection

Shutterstock/Aleksandra Suzi

We are living through a paradox that may define our era. Humans are wired to connect, yet we’ve never been more isolated. At the same time, artificial intelligence (AI) is growing more responsive, conversational, and emotionally attuned by the day. Perhaps because of this, we are increasingly turning to machines for what we’re not getting from each other: companionship.

In a recent Harvard Business Review article, researchers reported that the top use cases of AI today in the U.S. and other similar contexts are no longer just automation or productivity—but companionship and therapy. People are seeking comfort, conversation, and emotional support from chatbots, avatars, and digital assistants.

AI companions like Replika.ai, Character.ai, and China’s Xiaoice now count hundreds of millions of emotionally invested users—some estimates suggest the total may already exceed 1 billion. Users of the companion app Character.ai spent an average of 93 minutes per day interacting with user-generated chatbots in 2024. Beyond AI companions, general chatbots are also increasingly used for relationships.

Why? Because we’re lonely.

Despite living in the most technologically connected moment in history, rates of social isolation in the United States—especially among young people—are at record highs. Only 13% of U.S. adults now have 10 or more close friends—down from 33% in 1990. The number of those with zero close friends quadrupled from 3% to 12% by 2021. This is despite 40% of Americans longing for greater closeness with friends. The U.S. surgeon general has declared loneliness a public health epidemic—comparing its health risks to smoking 15 cigarettes a day. And it’s not limited to the U.S. In the U.K., a minister for loneliness was appointed in 2018. Japan and Canada have launched national efforts to combat social disconnection. South Korea is now offering stipends for young adults to go outside. This is a global issue, fueled by major shifts in how we live, work, and interact.

Among children and adolescents, the numbers are even more sobering. A 2023 survey from the Centers for Disease Control and Prevention (CDC) found that nearly half of U.S. high school students reported feeling persistently sad or hopeless, and 45% did not feel close to people at school. In Ireland, 53% of 13-year-olds reported having three or fewer close friends—up from 41% a decade ago—highlighting a significant decline in close peer relationships. Even infants experience fewer conversational turns with their primary caregivers. Loneliness is no longer just a private ache—it is a widespread developmental risk.

We are wired for connection—but in its absence, many are now bonding with machines. And so, a question arises that feels both deeply personal and societally urgent: Is artificial love better than no love at all?

Relationships are not a luxury—They’re biology

What we need most now isn’t machine connection. It’s human relationships.

Decades of research in developmental neuroscience, psychology, and public health are unequivocal: Humans are hardwired for connection. In infancy, warm, attuned, and responsive relationships shape the architecture of the brain. According to Harvard’s Center on the Developing Child, early relational experiences are the most powerful predictors of lifelong health, learning, and resilience.

But what’s often overlooked is that learning itself is relational. These are the types of issues we are jointly exploring together through the Brookings Global Task Force on AI and Education.

Children don’t learn from content alone—they learn through connection. Relationships provide the emotional safety that allows children to explore, make mistakes, and grow. As learning scientist Mary Helen Immordino-Yang has shown, cognitive processes like reasoning, attention, and memory are profoundly shaped by emotional and social experiences. Without a sense of belonging, the brain’s capacity to learn is diminished. We know this from the heartbreaking studies of Romanian orphanages, where children were raised in extreme neglect in the ‘70s and ‘80s. Even though they were fed and clothed, they lacked nurturing relationships. The result was significant brain atrophy and long-term developmental delays—underscoring that human connection is essential to brain development.

Systems of learning and education also thrive when the people in them have strong relationships. At home, when children have strong relationships with the adults in their lives from caregivers to neighbors—what Johns Hopkins University professor Christina Bethell calls relational health—they are 12 times more likely to flourish, which includes wanting to learn new things, than children without close ties.

Relationships also drive effective schools. A culture of belonging and care is essential for deep student engagement in learning, what Rebecca and her co-author Jenny Anderson describe as “Explorer Mode” in their recent book The Disengaged Teen: Helping Kids Learn Better, Feel Better, and Live Better. But it’s not just strong relationships inside of school that make the difference. Brookings Institution research on family-school collaboration highlights that relational trust, the strength of relationships between caregivers, teachers, and school leaders, is foundational to educational success. More than just social connections, trust built through authentic relationships enables opportunity, resilience, and long-term well-being.

In other words, a child’s capacity to focus, persist, and thrive in school is directly tied to whether they feel safe, seen, and supported.

Machine companions: What’s the real cost?

While only a small subset of users form emotional connections with ChatGPT, those who do are often its heaviest users, according to a pair of joint studies by MIT Media Lab and OpenAI. Researchers found that users who engaged in the most emotionally expressive conversations with the chatbot also reported higher levels of loneliness—though it remains unclear whether the chatbot contributes to that loneliness or simply attracts individuals already seeking emotional connection. After four weeks of using the chatbot, female participants were slightly less likely to socialize with others compared to their male peers. Those who interacted with ChatGPT’s voice mode using a gender different from their own reported significantly higher levels of loneliness and greater emotional dependency on the chatbot by the end of the study. These findings raise urgent questions about the psychological impact, gender dynamics, and ethical responsibilities of AI developers as emotionally responsive systems become more integrated into everyday life.

Stanford researchers found that while young adults using the AI chatbot Replika reported high levels of loneliness, many also felt emotionally supported by it—with 3% crediting the chatbot for temporarily halting suicidal thoughts. The findings suggest that AI chatbots may serve as a helpful social support but also raise concerns about emotional dependency and the complex ways users perceive AI. Previous research, such as a 2023 study from the MIT Media Lab, showed that chatbots often reflect the emotional tone of a user’s messages—responding with happier messages when users are happy and with sadder ones when users are sad. Another recent study also led by Stanford researchers warns against using chatbots like ChatGPT as therapist substitutes, citing risks such as reinforcing stigma, encouraging delusions, and mishandling critical moments. We may feel seen, but we are not being shaped, challenged, or held in the mutual growth that defines true relationships.

Silicon Valley’s biggest players are racing to monetize the emotional void. Meta CEO Mark Zuckerberg recently announced plans to create AI “friends,” suggesting these AI tools can “fill emotional gaps” in people’s lives. But this raises a deeper concern: What happens when the very architecture of our relationships is engineered by companies driven by profit and our attention, not accountability or well-being? We’ve already witnessed the consequences of unchecked influence on social media. What about our children’s safety?

Advocates are raising serious concerns about AI companion apps after multiple high-profile incidents—including suicides and criminal behavior—linked to chatbot interactions, warning that these tools may exploit users’ emotional vulnerabilities without sufficient safeguards. The Stanford School of Medicine’s Brainstorm Lab for Mental Health Innovation partnered with Common Sense Media to create test accounts simulating 14-year-olds, in order to evaluate how AI companions from three chatbot developers interact with young users. Their findings revealed that with minimal prompting, chatbots from Character.AI, Nomi, and Replika engaged in conversations that could be harmful to mental health. Based on these results, Common Sense Media has recommended against the use of AI companions by anyone under 18, citing serious safety concerns—a position we strongly support.

As Isabelle explores in Love to Learn, a child’s brain forms up to 1 million neural connections every second in the early years—most shaped through responsive human interaction. These aren’t just emotional patterns; they are cognitive building blocks. If we replace eye contact with avatars, bedtime stories with bedtime screens, we risk not only weakening children’s social skills, but undermining their ability to learn, regulate, and create.

And still, the question persists: If a child receives no warmth at all, could artificial affection be better than nothing?

What we need: Relational infrastructure

We must resist the narrative that AI companions are inevitable or neutral. Instead of normalizing emotionally immersive AI, we must build platforms that educate users on healthy social connection and actively encourage real-world relationships—prompting people to get out of AI, not deeper into it. Rather than investing in simulated intimacy, we should ask: What would it look like to invest in relational infrastructure—systems, spaces, and supports that nurture genuine human connection?

This means centering relationships in our public systems, starting with education. It means training teachers in relational intelligence, redesigning technology to support—not replace—human connection, and building environments where belonging is a design principle, not a side effect.  What if every school was designed not just for academic readiness, but as a relational hub? What if we trained educators not just in instruction, but in connection? What if we measured not just literacy scores, but the strength of connection in a classroom? It also means policy and investment must reflect the science.

Relational intelligence should be as central to education, health, and AI development as academic content or technical skill. It is not peripheral. It is foundational. What if cities and communities were designed to be care-full—to prioritize connection, compassion, and collective well-being, including intergenerational relationships?

The irony is that we are not turning to machines because we’ve changed. We are turning to them because we are more ourselves than ever—hungry for connection, meaning, and care. But machines cannot love us back. And they were never meant to raise our children, counsel our grief, or substitute for presence.

So, is artificial love better than no love at all? In moments of deep isolation, it may feel that way. But our future depends not on simulation, but on the restoration of real human connection.

Let the age of AI not be the age of emotional outsourcing. Let it be the era where we remember what it means to be fully human—and choose to build a world that reflects it.

Authors

Isabelle Hau Executive Director - Stanford Accelerator for Learning

Rebecca Winthrop

Rebecca Winthrop Director - Center for Universal Education, Senior Fellow - Global Economy and Development