巴毛律师表示，她在网路上看见有人涉嫌诈骗、一审遭判一年十月，全案目前进入二审，但想求缓刑的被告却没认真请律师，反而是去找ChatGpt讨论诉讼策略，而AI给的建议竟是要其请求法官给予缓刑，并连署网友证明他是好人、对社会有帮助。
不仅如此，当巴毛律师讲法与ChatGPT不同时，对方竟还比较相信ChatGPT，而经实际询问ChatGPT法律问题后，她发现AI即便会回答得头头是道，但仔细看很多内容根本都是错的，且甚至还会自己捏造不存在的法条和判决，「拜托有法律问题还是咨询律师，就算你的ChatGpt有付费也一样！」
文章一出后，网友也感叹：「Chatgpt的特色就是一本正经的胡说八道」、「不是只要是AI就什么都会了好吗」、「这种会去问AI的应该也不会去买付费服务」、「原来律师也有被AI取代的危机」、「这种事，还是要找专业」、「网友连署有用，柯文哲早就出来了」、「我跟GPT反应他法条错了，GPT还硬拗，真的是AI无误。」
此外，另有人认为：「基本上AI都是从搜集的资料中去拼凑答案的，所以不仅有可能会引用错误叙述，还常常出现玩梗辨识不出来、污染答案的结果。而最糟糕还是就算实际上应该是资讯不足无法回答，很是常常煞有其事的捏个没有根据的答案出来。」
點擊閱讀下一則新聞
「成台机率略升」最快明有台风！路径曝光
