ChatGPT是一款聊天機器人，它會生成類似人類會寫出來的文字，自然地回答眾多問題、精通許多學科，就像個私人導師一樣。也因此ChatGPT可以依據曾透露過的家人性別與生日精準回答問題，為了「機智靈活」的回應問題，也會「暗中記住」線上提問的個資。

目前的機器人都是透過網路上海量資訊來建立回答，所以也可能吸收垃圾資訊，再吐出更多垃圾資訊，專長AI和機器學習的埃默里大學教授薩格（Matthew Sag）提醒，這樣的模型訓練人工智慧去猜測什麼聽起來合理，但不是判斷什麼是真實。