Установка JSON в MySQL с помощью Python
-
27-09-2019 - |
Вопрос
У меня есть объект JSON в Python. Я использую Python DB-API и SimpleJSON. Я пытаюсь вставить JSON в таблицу MySQL.
В момент возникновения ошибок, и я верю, что это связано с одним цитатами в объектах JSON.
Как я могу вставить свой объект JSON в MySQL с помощью Python?
Вот сообщение об ошибке, которое я получаю:
error: uncaptured python exception, closing channel
<twitstream.twitasync.TwitterStreamPOST connected at
0x7ff68f91d7e8> (<class '_mysql_exceptions.ProgrammingError'>:
(1064, "You have an error in your SQL syntax; check the
manual that corresponds to your MySQL server version for
the right syntax to use near ''favorited': '0',
'in_reply_to_user_id': '52063869', 'contributors':
'NULL', 'tr' at line 1")
[/usr/lib/python2.5/asyncore.py|read|68]
[/usr/lib/python2.5/asyncore.py|handle_read_event|390]
[/usr/lib/python2.5/asynchat.py|handle_read|137]
[/usr/lib/python2.5/site-packages/twitstream-0.1-py2.5.egg/
twitstream/twitasync.py|found_terminator|55] [twitter.py|callback|26]
[build/bdist.linux-x86_64/egg/MySQLdb/cursors.py|execute|166]
[build/bdist.linux-x86_64/egg/MySQLdb/connections.py|defaulterrorhandler|35])
Еще одна ошибка для справки
error: uncaptured python exception, closing channel
<twitstream.twitasync.TwitterStreamPOST connected at
0x7feb9d52b7e8> (<class '_mysql_exceptions.ProgrammingError'>:
(1064, "You have an error in your SQL syntax; check the manual
that corresponds to your MySQL server version for the right
syntax to use near 'RT @tweetmeme The Best BlackBerry Pearl
Cell Phone Covers http://bit.ly/9WtwUO''' at line 1")
[/usr/lib/python2.5/asyncore.py|read|68]
[/usr/lib/python2.5/asyncore.py|handle_read_event|390]
[/usr/lib/python2.5/asynchat.py|handle_read|137]
[/usr/lib/python2.5/site-packages/twitstream-0.1-
py2.5.egg/twitstream/twitasync.py|found_terminator|55]
[twitter.py|callback|28] [build/bdist.linux-
x86_64/egg/MySQLdb/cursors.py|execute|166] [build/bdist.linux-
x86_64/egg/MySQLdb/connections.py|defaulterrorhandler|35])
Вот ссылка на код, который я использую http://pastebin.com/q5qsfyla.
#!/usr/bin/env python
try:
import json as simplejson
except ImportError:
import simplejson
import twitstream
import MySQLdb
USER = ''
PASS = ''
USAGE = """%prog"""
conn = MySQLdb.connect(host = "",
user = "",
passwd = "",
db = "")
# Define a function/callable to be called on every status:
def callback(status):
twitdb = conn.cursor ()
twitdb.execute ("INSERT INTO tweets_unprocessed (text, created_at, twitter_id, user_id, user_screen_name, json) VALUES (%s,%s,%s,%s,%s,%s)",(status.get('text'), status.get('created_at'), status.get('id'), status.get('user', {}).get('id'), status.get('user', {}).get('screen_name'), status))
# print status
#print "%s:\t%s\n" % (status.get('user', {}).get('screen_name'), status.get('text'))
if __name__ == '__main__':
# Call a specific API method from the twitstream module:
# stream = twitstream.spritzer(USER, PASS, callback)
twitstream.parser.usage = USAGE
(options, args) = twitstream.parser.parse_args()
if len(args) < 1:
args = ['Blackberry']
stream = twitstream.track(USER, PASS, callback, args, options.debug, engine=options.engine)
# Loop forever on the streaming call:
stream.run()
Решение
используйте json.dumps (json_value), чтобы преобразовать свой объект JSON (объект Python) в строке JSON, которую вы можете вставить в текстовое поле в MySQL
Другие советы
Расширить другие ответы:
В основном вам нужно убедиться в двух вещах:
Что у вас есть место для полного объема данных, которые вы хотите вставить в поле, которое вы пытаетесь его разместить. Различные типы полевых данных базы данных могут соответствовать разным количестве данных. Видеть: MySQL String DataTypes. Отказ Вы, вероятно, хотите, чтобы «Текст» или «Блоб» типы.
Что вы благополучно пропускаете данные в базу данных. Некоторые способы передачи данных могут вызвать базу данных «смотреть» на данные, и она запуталась, если данные выглядят как SQL. Это также риск безопасности. Видеть: SQL инъекция
Решение для # 1 - проверять, что база данных разработана с правильным типом поля.
Решение для № 2 используется параметризованные (связанные) запросы. Например, вместо:
# Simple, but naive, method.
# Notice that you are passing in 1 large argument to db.execute()
db.execute("INSERT INTO json_col VALUES (" + json_value + ")")
Лучше, используйте:
# Correct method. Uses parameter/bind variables.
# Notice that you are passing in 2 arguments to db.execute()
db.execute("INSERT INTO json_col VALUES %s", json_value)
Надеюсь это поможет. Если это так, дайте мне знать. :-)
Если у вас все еще возникли проблемы, нам нужно будет более внимательно изучить свой синтаксис.
Вы должны быть в состоянии вставить intyo текст или столбец BLOB легко
db.execute("INSERT INTO json_col VALUES %s", json_value)
Самый простой способ вставить карту Python в поле MySQL JSON ...
python_map = { "foo": "bar", [ "baz", "biz" ] }
sql = "INSERT INTO your_table (json_column_name) VALUES (%s)"
cursor.execute( sql, (json.dumps(python_map),) )
Ошибка может быть связана с переполнением размера поля, в котором вы пытаетесь вставить свой JSON. Без какого-либо кода трудно вам помочь.
Вы рассматриваете систему базы данных NO-SQL, такие как CouchDB, которая представляет собой ориентированную на документ базы данных, опираясь на формат JSON?
Вам нужно посмотреть на фактический SQL String, попробуйте что-то вроде этого:
sqlstr = "INSERT INTO tweets_unprocessed (text, created_at, twitter_id, user_id, user_screen_name, json) VALUES (%s,%s,%s,%s,%s,%s)", (status.get('text'), status.get('created_at'), status.get('id'), status.get('user', {}).get('id'), status.get('user', {}).get('screen_name'), status)
print "about to execute(%s)" % sqlstr
twitdb.execute(sqlstr)
Я представляю, что вы найдете некоторые бездомные цитаты, брекеты или скобки там.
@route('/shoes', method='POST')
def createorder():
cursor = db.cursor()
data = request.json
p_id = request.json['product_id']
p_desc = request.json['product_desc']
color = request.json['color']
price = request.json['price']
p_name = request.json['product_name']
q = request.json['quantity']
createDate = datetime.now().isoformat()
print (createDate)
response.content_type = 'application/json'
print(data)
if not data:
abort(400, 'No data received')
sql = "insert into productshoes (product_id, product_desc, color, price, product_name, quantity, createDate) values ('%s', '%s','%s','%d','%s','%d', '%s')" %(p_id, p_desc, color, price, p_name, q, createDate)
print (sql)
try:
# Execute dml and commit changes
cursor.execute(sql,data)
db.commit()
cursor.close()
except:
# Rollback changes
db.rollback()
return dumps(("OK"),default=json_util.default)
Вот быстрый совет, если вы хотите написать какой-то встроенный код, скажем, для небольшого значения JSON без import json
. Отказ Вы можете избежать цитат в SQL с двойной цитирующей, т.е. использовать ''
или ""
, входить '
или "
.
Образец кода Python (не проверено):
q = 'INSERT INTO `table`(`db_col`) VALUES ("{k:""some data"";}")'
db_connector.execute(q)