当前位置:网站首页 > SQL数据库编程 > 正文

pyspark读取mysql(pyspark.sql)



# 导入模块
from pyspark.sql import SparkSession

#
创建Spark会话对象 spark = SparkSession.builder .appName("Read MySQL") .getOrCreate() # 或者写成一行 spark = SparkSession.builder.appName("Read MySQL").getOrCreate() # 设置JDBC连接参数 url = "jdbc:mysql://localhost/mydatabase" properties = { "user": "username", "password": "password", "driver": "com.mysql.cj.jdbc.Driver" } # 通过format指定要读取的格式为jdbc,并传入相应的URL、属性等信息
# 使用来加载MySQL表中的数据到DataFrame中
df = spark.read.format("jdbc").option("url", url).options(properties) .option("dbtable", "tablename").load()

# 或者每一个属性单独写一行
df = spark.read.format("jdbc")
  .option("url", mysql_url)
  .option("user", user)
  .option("password", password)
  .option("driver", "com.mysql.cj.jdbc.Driver")
  .option("dbtable", dbtable)
  .load()
# 显示(打印)DataFrame内容 df.show()
到此这篇pyspark读取mysql(pyspark.sql)的文章就介绍到这了,更多相关内容请继续浏览下面的相关 推荐文章,希望大家都能在编程的领域有一番成就!

版权声明


相关文章:

  • 数据库增删改查关键字(sql增删改查关键字)2025-05-09 23:45:07
  • pymysql连接数据库失败(pymysql 连接数据库)2025-05-09 23:45:07
  • .sql文件有什么用(数据库.sql文件)2025-05-09 23:45:07
  • sql语句中foreach循环(sql中的foreach用法)2025-05-09 23:45:07
  • .sql文件有什么用(.sql文件的作用)2025-05-09 23:45:07
  • mysql主键用uuid(mysql主键用什么类型)2025-05-09 23:45:07
  • oracal和mysql的区别(oracle和mysql区别大吗)2025-05-09 23:45:07
  • sql文件如何打开运行(sql文件怎么打开、运行)2025-05-09 23:45:07
  • 为什么用redis不用mysql(为什么要用redis不用mysql)2025-05-09 23:45:07
  • sql中循环更新对应主键的时间(sql中循环更新对应主键的时间怎么算)2025-05-09 23:45:07
  • 全屏图片