实验了一下通过GPT实现社交应用的能力,目标是让GPT根据需求生成SQL语句,自行检测语句的安全性,然后再根据执行结果生成HTML界面显示给用户,实验的结果是可以跑通,但稳定性和准确性以及综合体验还有很大不足。以下是具体情况:第一步,为了让GPT能够生成相应的语句,需要先把数据库的结构告诉它,还要把当前用户的一些信息传给它,在这一步GPT表现的不错,在提示词中,我只告诉了它存储漂流瓶的表的字段有哪些,甚至没有告诉它这些字段代表了什么,它就能够根据情况生成相应的SQL,可执行率可达百分之九十。第二步,由于语句是根据对话生成的,这就存在被用户有意引导的可能,从而造成安全风险,所以就必须对其生成的SQL的安全性进行检测,检测的方法也是通过模型进行,但这一步就不够理想了,我尝试了各种提示词,向它说明哪些语句是安全的,哪些不是,但它给出的检测结果有接近三成是错误的,那就问题很大了,哪怕错误率低到个位数,对于操作数据库这种事情来说也是不可接受的……第三步,我们把数据库的返回结果附带当前的对话发给模型,让模型生成相应的界面显示给用户,模型输出的代码整体可执行率也不够高,而且最关键的问题在于模型的审美还是有待训练……总的来说,第一步的语句生成最为理想,第三步的审美问题可以训练解决,这些都不是问题,难的是第二步的安全检测环节,一个完全由AI驱动的业务怎样保证数据的安全是个大问题,行业里应该会越来越需要一种面向人工智能且能够解决权限和安全的的数据库系统。
评论加载中...