DOI: 10.12158/j.2096-3203.2023.04.004
文章编号: 2096-3203(2023)04-0031-10   中图分类号: TM73   
考虑快慢充负荷特性的电动汽车调峰定价策略
王庆园, 崔莉, 王明深, 葛乐    
南京工程学院电力工程学院,江苏 南京 211167
摘要:随着分布式光伏大规模发电的广泛应用,净负荷“鸭型”曲线特征明显,电动汽车白天充电无法充分利用新能源,夜间充电使原有负荷峰值叠加。为避免净负荷“峰上加峰”现象,文中以减小净负荷峰谷差为目标,实现充电负荷转移。首先,基于快慢充行为特征的统计数据,采用蒙特卡洛法模拟用户充电行为,实现未来充电负荷分布的预测,并根据慢充的入网特性以及快充的延迟充电特性建立快慢充负荷约束。然后,基于梯度下降法对负荷转移率进行计算,并引入用户消费心理学构建充电负荷价格响应模型。最后,对电网调峰的经济性进行分析以限定电价变动约束,以净负荷峰谷差最小为目标构建充电引导模型,并利用深度强化学习对其求解。仿真结果表明,所建模型和求解策略能有效引导充电负荷避开净负荷的峰期,并确定合理电价,减小电网的峰谷差。
关键词电动汽车    充电负荷引导    削峰填谷    快充慢充约束    深度强化学习    净负荷    
0 引言

电动汽车(electric vehicle, EV)作为能源转型和可持续发展的重要标志,推动其发展对“十四五”时期能源清洁低碳、安全高效利用具有重大意义[1-4]。据统计,2022年我国约有1 000万辆EV上路,占汽车销量的近20%[5]。未来,随着分布式光伏发电系统规模的扩大和EV数量及渗透率的不断增加,EV充电需求将呈现午间降低、晚高峰上涨的变化特征,这将导致白天的电力输出无法被充分利用,同时在晚高峰充电将进一步增加负荷峰值,出现“峰上加峰”现象[6-10]

为避免上述现象,现已有很多研究通过对EV引导充电,有效缓解电网负荷的峰谷差。文献[11]考虑实时交通信息,提出了一种路径规划和充电引导策略,但未考虑市场电价对引导的影响。文献[12]考虑动态队列和快充负荷的接纳能力,以用户充电成本最小为目标制定了定价策略,引导用户充电。文献[13]考虑用户充电费用、发电商成本和电网日负荷差,提出了一种自适应电价的充电引导策略, 但未考虑电价响应充电负荷引导具有模糊性和随机性。文献[14]考虑配电变压器过载和充电收益,针对居民小区提出了充电引导控制策略,但考虑的充电场景和充电方式单一,忽略了不同充电方式对充电净负荷的叠加影响。文献[15]考虑了用户充电费用和充电站负荷峰谷差,采用思维进化算法计算最优充电时段,从而实现EV的充电引导,但缺少对EV用户充电行为的约束分析。

对快慢充的充电负荷建模是实现EV充电引导的前提,现已有很多学者对充电负荷建模进行了深入研究。文献[16]基于出行起讫点矩阵对电动私家车的充电负荷进行预测建模分析,但未考虑不同类型的EV充电负荷建模。文献[17]对不同类型的EV充电行为进行分析,从快、慢2种方式出发,建立相应的充电负荷预测模型,但未采用快慢充行为特征的真实统计数据。

针对上述文献中的问题,文中采用快慢充行为特征的统计数据,并基于蒙特卡洛法对不同类型的车辆进行模拟,实现了不同充电方式对净负荷的叠加影响。综合考虑了慢充EV的入网特性和快充EV的延迟充电特性,有效地约束用户充电行为,实现快慢充负荷的划分。此外,考虑了电价响应充电负荷的模糊影响,引入用户消费心理构建了电价响应模型。为引导EV充电并实现负荷的转移,最后提出了一种考虑快慢充负荷特性的EV调峰定价策略,并通过深度确定性策略梯度(deep deterministic policy gradient, DDPG)算法求解出最优电价策略。文中通过模拟1 000辆EV用户的充电行为,验证了所提策略的有效性,。

1 调峰定价策略实现框架

调峰定价策略的总体流程如图 1所示。首先,在EV充电负荷特征分析中,基于快慢充行为特征的统计数据对未来的日充电负荷进行预测,将预测的充电负荷分布作为引导前的EV基础日充电负荷。其次,针对EV慢充的入网特性和快充的延迟充电特性进行分析,建立快慢充负荷约束,并分析电网调峰经济性,建立电网扶持调价的经济约束。再次,以电网净负荷峰谷差最小为目标构建充电引导模型,结合约束条件采用DDPG算法对引导模型进行学习求解,求解得到的值作为实际引导后的EV日充电负荷。最后,基于梯度下降法对引导后的充电负荷模型进行拟合,从而获取负荷转移率,并引入用户消费心理建立充电负荷价格响应模型,将转移率转化为电价作为算法的输出,经过反复的学习迭代即可获取最优电价。

图 1 调峰定价策略总体流程 Fig. 1 Overall flowchart of peak load regulation pricing strategy
2 EV充电负荷特征分析 2.1 EV的快慢充行为特征

现如今EV主要可分为私家车、网约车和其他车(如客车和物流车)。由于这些车辆在社会功能上存在差异,其出行规律和充电负荷也有所不同。分析EV充电负荷的关键在于确定其出行时间、充电需求、充电方式以及荷电状态(state of charge, SOC)[18]。文中以文献[19]为基础,得到了各类EV在各时刻的快充和慢充需求占比,如图 2所示。

图 2 各类EV在各时刻的快充和慢充需求占比 Fig. 2 Proportion of fast charge and slow charge demand of different types of EVs at each time

对于私家车,快充在白天的需求率明显高于慢充,而在夜间和上下班高峰时段,慢充的需求率更高;对于网约车,快充方式的需求率在各个时段都相对均衡,而慢充的需求率仍然集中于夜间时段;对于其他类型车辆,快充和慢充在各个时段的需求率相对均衡。

各类型车辆快慢充需求下的充电起始SOC占比如图 3所示。总体来看,各类型车辆倾向于在SOC较低时选择快充方式,而在SOC较高时选择慢充方式。

图 3 各类EV快慢充的起始SOC占比 Fig. 3 The proportion of starting SOC for fast and slow charging for different types of EVs

EV完成充电所需时长的计算如式(1)所示。

$ t_{\mathrm{n}}=\frac{\left(S_{\mathrm{e}}-S_0\right) C}{P \eta} $ (1)

式中:Se为EV用户结束充电时的期望SOC;S0为EV用户开始充电时的初始SOC;C为EV的电池容量;P为额定充电功率;η为充电效率;tn为使EV电量达到Se所需要的时间。

2.2 充电负荷预测

基于2.1节所述数据占比,对未来的日充电负荷进行预测,具体步骤如下:

(1) 以蒙特卡洛抽样的方式生成EV的类型、充电方式以及充电起始SOC。

(2) 将一天的时间分为不同研究时段,根据式(1)计算得到EV用户的充电时长,并计算每个时段的充电负荷。

(3) 重复步骤(1)和步骤(2)进行反复抽样,根据式(2)计算得到快充与慢充负荷随时间的分布情况。

$ \left\{\begin{array}{l} L_{\mathrm{s}}(t+\Delta t)=\sum\limits_i^n P_{\mathrm{s}, i} \Delta t_i \\ L_{\mathrm{f}}(t+\Delta t)=\sum\limits_i^n P_{\mathrm{f}, i} \Delta t_i \end{array}\right. $ (2)

式中:Ls(t)、Lf(t)分别为在t时刻的慢充负荷和快充负荷;Ps, iPf, i分别为第i辆EV用户的慢充和快充的充电功率;Δt为研究时间间隔;Δti为第i辆EV用户在Δt时间内的充电时长;n为Δt时间内的充电总人数。

(4) 根据式(2)可得充电总负荷随时间的分布情况,如式(3)所示。

$ L_{\mathrm{ev}}(t)=L_{\mathrm{s}}(t)+L_{\mathrm{f}}(t) $ (3)

式中:Lev(t)为EV在t时刻的充电负荷。

(5) 对未来EV数量进行估计,根据式(3)可得未来日充电负荷随时间的分布情况,如式(4)所示。

$ L_0(t)=\frac{n_{\mathrm{f}}}{n_{\mathrm{c}}} L_{\mathrm{ev}}(t) $ (4)

式中:L0(t)为未来EV在t时刻的充电负荷;nc为当前EV数量;nf为未来EV数量。

2.3 慢充负荷约束

当选择慢充方式的EV有充电需求时,接入电网,电网可调节对EV的充电时段。电网会在净负荷谷时调节EV进入充电状态,以慢充充电功率向EV供电;而在净负荷峰时调节EV进入空闲状态,此时不会向EV供电。

单体慢充EV的SOC模型如式(5)所示。

$ S_i(t+\Delta t)=\left\{\begin{array}{l} S_i(t)+\frac{P_{\mathrm{s}, i} \eta}{C} \Delta t_i \quad I_{\mathrm{ev}, i}(t)={ }^{\prime} \mathrm{CS}^{\prime} \\ S_i(t) \quad I_{\mathrm{ev}, i}(t)={ }^{\prime} \mathrm{IS}^{\prime} \end{array}\right. $ (5)

式中:Si(t)为第i辆EV在t时刻的SOC;Iev, i(t)为第i辆EV接入状态,慢充下Iev, i(t)的取值集合为{′CS′, ′IS′},当Iev, i(t)取′CS′时,接入电网的第i辆EV在t时刻为充电状态,当Iev, i(t)取′IS′时,接入电网的第i辆EV在t时刻为空闲状态。

在慢充EV接入电网这段时间内,单体EV运行区域如图 4所示,假设t0tend分别为EV开始充电时刻和结束充电时刻。图中,“xy”表示EV接入电网后立即以慢充功率Ps开始充电,直到充至Se;“yz”表示EV保持Se直到用户结束充电;“xh”表示EV接入电网后延迟充电,直到能保证EV完成充电;“hz”表示恰好在用户结束充电时刻完成充电。“xyz”表示EV运行区域的上限;“xhz”表示运行区域的下限。

图 4 慢充方式下的单体EV运行区域 Fig. 4 Single EV operating region in slow charge mode

若用户充电过程均以运行区域上限完成,则EV充电负荷上限如式(6)所示。反之,EV充电负荷下限如式(7)所示。

$ L_{\mathrm{s}}^{\mathrm{up}}(t+\Delta t)=\sum\limits_{i \in I_{\mathrm{CS}}(t)} P_{\mathrm{s}, i} \Delta t_i $ (6)
$ L_{\mathrm{s}}^{\mathrm{dn}}(t+\Delta t)=\sum\limits_{i \in I_{\mathrm{IS}}(t)} P_{\mathrm{s}, i} \Delta t_i $ (7)

式中:Lsup(t)、Lsdn(t)分别为慢充负荷在t时刻的上限和下限;ICS(t)、IIS(t)分别为t时刻处在充电状态和空闲状态下的EV集合。

2.4 快充负荷约束

具有快充需求的EV接入电网后可以实现即插即充,EV用户可以通过选择到达站点的时间或开始充电的时间来控制充电时段。在充电电价较低、电网净负荷谷时,EV用户可以选择接入电网购买电力进行充电,此时EV进入充电状态;反之,EV用户可以选择不接入电网,并以原本运行功率消耗EV自身电量,此时EV进入延迟充电状态。

单体快充EV的SOC模型如式(8)所示。

$ S_i(t+\Delta t)= \begin{cases}S_i(t)+\frac{P_{\mathrm{f}, i} \eta}{C} \Delta t_i & I_{\mathrm{ev}, i}(t)={ }^{\prime} \mathrm{CS}^{\prime} \\ S_i(t)-\frac{P_{\mathrm{d}, i}}{C} \Delta t_i & I_{\mathrm{ev}, i}(t)={ }^{\prime} \mathrm{DS}^{\prime}\end{cases} $ (8)

式中:Pd, i为EV因延迟充电在Δt时间内损耗的功率;快充下Iev, i(t)的取值集合为{′CS′, ′DS′},当Iev, i(t)取′CS′时,第i辆EV在t时刻具有充电需求且接入电网充电,当Iev, i(t)取′DS′时,第i辆EV在t时刻具有充电需求但未接入电网充电,而是选择延迟充电。

当EV有快充需求的这段时间内,单体快充EV运行区域如图 5所示。EV在入网前可选择延迟充电,在延迟期间,EV以功率Pd进行耗电,当EV的SOC达到最低阈值Smin,则必须接入电网充电。EV在接入电网后即插即充,当EV的SOC达到Se,离开电网结束充电。假设t0t0, n分别为EV原先入网开始充电时刻和离网结束时刻;t1t1, n分别为EV达到Smin时的入网开始充电时刻和离网结束时刻。图中,“xy”表示EV没有延迟,而是直接入网以快充功率Pf开始充电,直到充至Se离网;“xh”表示EV延迟充电,以耗电功率Pd进行耗电,延迟极限可至t1;“hz”表示EV达到Smin时入网并且开始充电,直到充至Se离网。“xy”表示EV运行区域的上限,“xhz”表示运行区域的下限。

图 5 快充方式下的单体EV运行区域 Fig. 5 Single EV operating region in fast charge mode

若用户充电过程均以运行区域上限完成,则EV充电负荷上限如式(9)所示。反之,EV充电负荷下限如式(10)所示。

$ L_{\mathrm{f}}^{\mathrm{up}}(t+\Delta t)=\sum\limits_{i \in I_{\mathrm{CS}}(t)} P_{\mathrm{f}, i} \Delta t_i $ (9)
$ L_{\mathrm{f}}^{\mathrm{dn}}(t+\Delta t)=\sum\limits_{i \in I_{\mathrm{DS}}(t)} P_{\mathrm{f}, i} \Delta t_i $ (10)

式中:Lfup(t)、Lfdn(t)分别为快充负荷在t时刻的上限和下限;IDS(t)为t时刻处在延迟充电状态下的EV集合。

3 面向负荷转移的充电价格响应模型 3.1 基于梯度下降法的负荷转移率计算方法

EV用户的充电行为是一种自主的消费行为,其响应电价变化而转移负荷的行为具有模糊性。当电价调整时,用户的充电响应会受电价变化过大或过小的影响,从而影响其决策行为[20]。为促使EV用户充电响应电网净负荷的削峰填谷,引导用户的充电时刻从净负荷峰时向平时负荷转移、峰时向谷时负荷转移、平时向谷时负荷转移。经过引导后的EV用户日负荷值模型为:

$ L(t)= \begin{cases}L_0(t)+\mu_{\mathrm{pv}} \bar{L}_{\mathrm{v}}+\mu_{\mathrm{fv}} \bar{L}_{\mathrm{f}} & t \in T_{\mathrm{v}} \\ L_0(t)+\mu_{\mathrm{pf}} \bar{L}_{\mathrm{p}}-\mu_{\mathrm{fv}} \bar{L}_{\mathrm{f}} & t \in T_{\mathrm{f}} \\ L_0(t)-\mu_{\mathrm{pv}} \bar{L}_{\mathrm{v}}-\mu_{\mathrm{pf}} \bar{L}_{\mathrm{p}} & t \in T_{\mathrm{p}}\end{cases} $ (11)

式中:L(t)为引导后的EV日充电负荷分布;μpvμpfμfv分别为峰时向谷时、峰时向平时、平时向谷时的负荷转移率;LvLfLp分别为净负荷谷时、平时、峰时的负荷平均值;TvTfTp分别为净负荷谷时、平时、峰时的时段集合。

文中采用梯度下降法[21]动态寻找充电负荷转移率参数,构建误差函数J, 如式(12)所示。

$ J\left(\mu_{\mathrm{pv}}, \mu_{\mathrm{pf}}, \mu_{\mathrm{fv}}\right)=\frac{1}{48} \sum\limits_{t=1}^{24}\left(L(t)-L^{\prime}(t)\right)^2 $ (12)

式中:L′(t)为实际引导后的EV日充电负荷分布。

根据误差函数可得梯度更新策略,如式(13)所示。

$ \mu_j=\mu_j-\alpha \frac{\partial J}{\partial \mu_j} \quad j \in\{\mathrm{pv}, \mathrm{pf}, \mathrm{fv}\} $ (13)

式中:μj为在j情形下的负荷转移率;α为学习率。

经过反复迭代拟合可求出负荷转移率表达式。

3.2 充电负荷价格响应模型

快充和慢充的负荷均具备价格敏感特性[22],文中采用Logistic函数来表示电价响应下的用户充电负荷转移[23],函数如式(14)所示。

$ \mu=\frac{a}{1+\mathrm{e}^{-(-\Delta \lambda-c) / d}}+b $ (14)

式中:μ为负荷转移率;Δλ为电价的变化量;abcd为用户消费心理的敏感系数,其中a表示快充/慢充用户的转移率变化区间,c表示快充/慢充用户对于价格的敏感度。

反推式(14)可得负荷转移率与电价的关系,如式(15)所示。

$ \Delta \lambda=d \ln \left(\frac{a+b-\mu}{\mu-b}\right)-c $ (15)

将用户均以乐观消费心理响应负荷转移率μ的电价变化称为乐观电价变化,用户均以悲观消费心理响应负荷转移率μ的电价变化称为悲观电价变化,真实的电价变化设定会介于乐观电价变化和悲观电价变化之间。因此,在转移率μ下,电价变化Δλ更新如式(16)所示。

$ \left\{\begin{array}{l} \Delta \lambda=\Delta \lambda_{\min }+\frac{\Delta \lambda_{\max }-\Delta \lambda_{\min }}{2}(1+k) \\ k=\mu / \mu_{\max } \end{array}\right. $ (16)

式中:Δλmin、Δλmax分别为在转移率μ下的悲观电价变化和乐观电价变化;μmax为电价变化带来的最大负荷转移率;k为乐观响应隶属度,表示用户符合乐观电价的概率。

4 充电负荷调峰定价策略 4.1 电网调峰经济性分析

电网负荷削峰填谷是指在电力系统负荷低谷期间,通过引导用户进行充电增加负荷,同时在高峰期减少负荷,以达到平衡电力供需的目的。该方法可以减少电力系统的过载风险,提高电力系统的稳定性,同时降低运营成本。削峰填谷的直接经济性体现在转移高峰电力负荷的奖励[24],如式(17)所示。

$ E=\left(\mu_{\mathrm{pv}} \bar{L}_{\mathrm{p}}+\mu_{\mathrm{pr}} \bar{L}_{\mathrm{p}}\right) m $ (17)

式中:E为电网转移高峰电力负荷的经济效益;m为减少峰值负荷所获得的单位奖励。

4.2 充电负荷引导目标

为保证快充站在午间公共区域有序快充引导,夜间居民区有序快慢充协调引导,以EV接入电网后电网净负荷峰谷差最小为目标,研究快充和慢充的负荷转移引导,并确定快充和慢充电价。目标函数Fmin为:

$ F_{\min }=\sqrt{\left[\frac{1}{T} \sum\limits_{t=1}^T\left(L_{\mathrm{g}}(t)-\frac{1}{T} \sum\limits_{t=1}^T L_{\mathrm{g}}(t)\right)\right]^2} $ (18)

式中:T为充电负荷的研究周期;Lg(t)为电网净负荷。其中,Lg(t)包括了EV充电总负荷Lev(t)和其他负荷Lot(t),三者的关系如式(19)所示。

$ L_{\mathrm{ev}}(t)=L_{\mathrm{g}}(t)-L_{\mathrm{ot}}(t) $ (19)
4.3 约束条件

(1) 快充和慢充电价不得超过最高电价,不得低于最低电价。

$ \left\{\begin{array}{l} \lambda_{\mathrm{f}, \min } \leqslant \lambda_{\mathrm{f}} \leqslant \lambda_{\mathrm{f}, \max } \\ \lambda_{\mathrm{s}, \min } \leqslant \lambda_{\mathrm{s}} \leqslant \lambda_{\mathrm{s}, \max } \end{array}\right. $ (20)

式中:λfλs分别为快充电价和慢充电价;λf, minλf, max分别为快充最低电价和最高电价;λs, minλs, max分别为慢充最低电价和最高电价。

(2) 用户的期望获取电量不得超过电池容量。

$ S_{\mathrm{e}} \leqslant 1 $ (21)

(3) 由于快充延迟特性的存在,快充用户的充电需求大于原先的充电计划,故引导变化后的日充电负荷值大于等于引导变化前的日充电负荷值。

$ \sum\limits_{t=1}^T L_{\mathrm{f}}^{\prime}(t)+\sum\limits_{t=1}^T L_{\mathrm{s}}^{\prime}(t) \geqslant \sum\limits_{t=1}^T L_{0, \mathrm{f}}(t)+\sum\limits_{t=1}^T L_{0, \mathrm{~s}}(t) $ (22)

式中:Lf(t)、Ls(t)分别为引导后的快充负荷和慢充负荷;L0, f(t)、L0, s(t)分别为引导前的EV快充和慢充的基础日充电负荷。

(4) 快充负荷与慢充负荷分别满足快充约束和慢充约束。

$ \left\{\begin{array}{l} L_{\mathrm{f}}^{\mathrm{dn}}(t) \leqslant L_{\mathrm{f}}^{\prime}(t) \leqslant L_{\mathrm{f}}^{\mathrm{up}}(t) \\ L_{\mathrm{s}}^{\mathrm{dn}}(t) \leqslant L_{\mathrm{s}}^{\prime}(t) \leqslant L_{\mathrm{s}}^{\mathrm{up}}(t) \end{array}\right. $ (23)

(5) 电价调整的损失幅度应满足电网扶持的经济额度。

$ \sum\limits_{t=1}^T L_{\mathrm{f}}^{\prime}(t) \Delta \lambda_{\mathrm{f}}+\sum\limits_{t=1}^T L_{\mathrm{s}}^{\prime}(t) \Delta \lambda_{\mathrm{s}} \leqslant E \delta $ (24)

式中:Δλf为快充电价变化幅度;Δλs为慢充电价变化幅度;δ为电网扶持的经济额度系数。

4.4 基于深度强化学习的引导模型 4.4.1 DDPG算法

在充电负荷引导过程中,引导策略的设计基于环境和智能体的信息交互[25-27]。文中采用DDPG算法进行求解,具体算法流程如图 6所示,其中statrt分别为t时刻的状态、动作和奖励;st+1t+1时刻的状态;π(·)为控制策略函数;N为交互参数个数。在训练过程中,执行器从评价器的反馈中学习正确的动作,生成最优控制策略,即在每个状态st下生成最优动作at,用Q(st, at)值评价;评价器的目标是找到最准确的Q值估计,从所获得的奖励中计算价值函数,以正确地评价执行器所采取的动作。通过对N个交互参数(si, ai, ri, si+1)(其中i=1, 2, …, n)进行随机批量采样,可以生成策略网络和Q网络的训练数据集,从而打破经验之间的耦合。策略产生动作指令作用到负荷转移响应电价模型中,仿真模型根据该定价策略将奖励反馈给智能体,智能体以最大奖励为目标获取最优策略。

图 6 DDPG算法流程 Fig. 6 Flow chart of DDPG algorithm
4.4.2 智能体建立

(1) 状态空间。在智能体训练过程中,智能体通过调节快充负荷Lf(t)和慢充负荷Ls(t)来影响快充电价λf和慢充电价λs。定义定价智能体的状态S为各个时刻负荷转移确定的电价:

$ \boldsymbol{S}=\left[\begin{array}{ll} \lambda_{\mathrm{f}, t} & \lambda_{\mathrm{s}, t} \end{array}\right] $ (25)

式中:λf, tλs, t分别为在t时刻的快充电价和慢充电价。

(2) 定价动作与动作选择。智能体须在动态自适应调整负荷的过程中,观察环境给予的奖励值反馈,因此动作空间矩阵A为:

$ \boldsymbol{A}=\left[\begin{array}{ll} \Delta P_{\mathrm{f}, t} & \Delta P_{\mathrm{s}, t} \end{array}\right] $ (26)

式中:ΔPft、ΔPs, t分别为在t时刻快充功率和慢充功率的变化量。

智能体采取ε-贪婪策略获取下一步动作:

$ a_t=\left\{\begin{array}{l} \underset{a_t}{\operatorname{argmax}} Q\left(s_{t+1}, a_t\right) \quad \varepsilon \leqslant \varepsilon_0 \\ \underset{a_t}{\operatorname{argmax}}\left(Q\left(s_{t+1}, a_t\right)+d\right) \quad \varepsilon>\varepsilon_0 \end{array}\right. $ (27)

式中:εε0∈[0, 1],ε为随机数,ε0为定值;Q(st+1, at)为在状态st+1下,负荷变化动作at所获取奖励R的期望值;d为随机数,其取值范围在[-0.1, 0.1]之间。智能体采用贪婪策略得到最优策略,以贝尔曼方程实现对策略值函数的更新[28]

(3) 训练环境及奖励。运行环境为负荷转移和电价关系模型,设置奖励值R如下:

$ R=-F $ (28)

式中:F为电网净负荷峰谷差。

由于目标函数是连续的,因此奖励信号可能会非常小或非常大。为避免该情况下的数值不稳定,使用Z-Score标准化方法对奖励信号进行缩放。使奖励信号缩放到均值为0,标准差为1的范围内[29], 奖励更新如下:

$ R=\frac{R-\theta}{\sigma} $ (29)

式中:θσ分别为奖励信号的均值和标准差,可通过对历史奖励信号进行统计计算得到。由此可以确保奖励信号的大小适中,有利于代理的学习和优化。

5 仿真分析 5.1 算例场景

假设EV电池储能总容量均为100 kW·h,充电站额定快充功率为60 kW,私有额定慢充功率为7 kW,充电效率为97%。私家车占比60%,网约车占比23.9%,其他车占比16.1%,各类型车辆快慢充占比如表 1所示。

表 1 各类型车辆快慢充占比 Table 1 Proportion of fast and slow charging of various models

在负荷转移率响应电价的模型中,考虑到快充和慢充用户对价格的敏感程度不同,假设快充方式下的c取值为0.4,慢充方式下的c取值为0.15。用户其他消费心理参数的设置如表 2所示。

表 2 用户消费心理参数 Table 2 Consumer psychological parameters
5.2 充电负荷预测结果分析

通过蒙特卡洛采样方法对1 000辆EV进行调研和采样,以1 h为时间间隔,将一天分为24个时段。2021年的EV充电负荷占电网净负荷约1%[30],将2021年净负荷数据等比例缩放,并减去模拟得到的1 000辆EV充电负荷,得到其他负荷。假设电网其他负荷不变,由文献[31]预测2030年的EV数量为2.29亿,算得EV充电负荷占电网净负荷约25.95%。预测2030年的快充负荷和慢充负荷如图 7所示。慢充负荷所占比重较大且集中在18:00—06:00时段,快充负荷在各时段都较为均匀。充电负荷与净负荷如图 8所示。EV总负荷与电网净负荷的峰值存在重叠,使得净负荷“峰上加峰”现象明显,加剧了净负荷的峰谷差,增加了电力系统的运营成本。

图 7 快充和慢充的预测负荷 Fig. 7 Predicted loads for fast and slow charging

图 8 EV和电网的负荷曲线 Fig. 8 Load curves for EVs and power grid
5.3 DDPG迭代仿真结果分析

为了提高算法的收敛速度和稳定性,文中设计DDPG算法的训练参数,如表 3所示。

表 3 DDPG训练参数 Table 3 DDPG training parameters

随着训练次数的变化,获得的奖励函数值见图 9。当迭代次数大约为2 500次时,奖励值得到收敛,获得电网净负荷峰谷差最优解,为19 305.19 kW。

图 9 奖励值变化曲线 Fig. 9 Reward value variation curve
5.4 充电引导仿真结果分析 5.4.1 引导后充电负荷结果

以缩小净负荷峰谷差为目标,对EV进行充电引导,引导后的EV充电负荷与净负荷如图 10所示。

图 10 引导前后EV和电网的负荷曲线 Fig. 10 Load curves of EVs and power grid before and after guidance

图 10可知,引导前净负荷的标准差为7 955.87 kW,引导后下降为5 966.90 kW。当日的净负荷峰谷差由25 740.25 kW下降至19 305.19 kW,相较于引导前的峰谷差,下降了约25%。引导前的最高负荷为27 712.13 kW,引导后下降至23 766.23 kW,下降了约14.24%。显然引导后的EV负荷集中于净负荷的谷时段,增大了电网在00:00—06:00时段和12:00—14:00时段的负荷值。对EV引导充电对于原始负荷明显起到削峰填谷的作用,提升了电网运行经济性。

引导后的EV快充和慢充负荷如图 11所示。显然快充的方式增加了12:00—14:00时段的负荷,降低了周边时刻的负荷,高峰负荷由原先11:00的1 286.58 kW移至13:00的2 414.97 kW,实现了快充负荷局部的转移。慢充的方式降低了白天的负荷值,负荷集中于夜间23:00—06:00时段,慢充最大转移率在04:00出现,达到了92.51%,实现了慢充负荷大幅度的转移。

图 11 引导后EV快充和慢充的负荷分布 Fig. 11 Load distribution of EV fast and slow charging after guidance
5.4.2 引导后充电电价结果

经充电负荷与电价联系模型求解出的快充和慢充电价变化如图 12所示。在17:00—20:00时段快充和慢充电价均较高,快充电价最高达到1.85元/(kW·h),慢充电价最高达到0.78元/(kW·h),该时段是居民用电的高峰时段,因此须提高EV充电价格引导其错开高峰。在00:00—05:00时段和12:00—14:00时段快充电价较低,在22:00—08:00时段慢充电价较低,上述时段均为居民用电低谷时段,也是大部分居民休息的时段。在03:00慢充电价最低,达到0.2元/(kW·h),而此时的快充电价达到0.7元/(kW·h),在电价相差很大的情况下,引导用户在此期间选择慢充方式,有利于消除净负荷夜间的长时间峰谷。而在12:00—14:00时段,快充电价仅比慢充电价高9.86%,在此期间,引导用户选择快充方式,有利于消除净负荷午间的短时间峰谷。

图 12 引导前后EV快充和慢充的电价 Fig. 12 Electricity price of fast and slow charging of EVs before and after guidance
6 结论

文中提出了一种考虑快慢充负荷特性的EV调峰定价策略,用来引导用户的充电负荷,实现电网负荷的削峰填谷。具体结论如下:

(1) 考虑用户的消费心理不同,构建充电负荷价格响应模型,能更加真实地刻画出因电价变化带来的实际负荷转移。

(2) 考虑不同场景和不同充电方式的负荷约束,使快充用户实现在时间上局部的负荷转移,慢充用户实现在时间上大幅度的负荷转移,增大了电网在夜间和午间的负荷值,降低了约14.24%的净负荷峰谷差。

(3) 利用深度强化学习求解目标,提高了计算的精度和效率,综合了电价对EV充电行为的潜在影响。

总体而言,文中提出的EV调峰定价策略,针对未来EV充电负荷比重大,“鸭型”曲线特征明显的问题,对充电负荷进行引导,避免了净负荷的“峰上加峰”现象,实现了电网的稳定经济运行。

参考文献
[1]
LIU W C, SHI X J, ZHAO J F, et al. Electric vehicle charging simulation framework considering traffic, user, and power grid[J]. Journal of Modern Power Systems and Clean Energy, 2020, 9(3): 602-611. (0)
[2]
周椿奇, 向月, 岑炳成, 等. 清洁能源发展场景下电动汽车入网对区域碳排放的系统动力学建模与分析[J]. 电力科学与技术学报, 2021, 36(3): 36-45.
ZHOU Chunqi, XIANG Yue, CEN Bingcheng, et al. System dynamics modeling and analysis of regional carbon emission by electric vehicles development under the evolution of clean energy development[J]. Journal of Electric Power Science and Technology, 2021, 36(3): 36-45. DOI:10.19781/j.issn.1673-9140.2021.03.005 (0)
[3]
谭俊, 张世通, 刘广一, 等. 电动汽车参与多元电碳市场策略框架研究[J]. 供用电, 2022, 39(12): 59-66.
TAN Jun, ZHANG Shitong, LIU Guangyi, et al. A strategic framework for integrating electric vehicles into joint electricity and carbon market[J]. Distribution & Utilization, 2022, 39(12): 59-66. (0)
[4]
蔡黎, 张权文, 代妮娜, 等. 规模化电动汽车接入主动配电网研究进展综述[J]. 智慧电力, 2021, 49(6): 75-82.
CAI Li, ZHANG Quanwen, DAI Nina, et al. Review on research progress of large-scale electric vehicle access to active distribution network[J]. Smart Power, 2021, 49(6): 75-82. DOI:10.3969/j.issn.1673-7598.2021.06.012 (0)
[5]
徐湘楚, 米增强, 詹泽伟, 等. 考虑多重不确定性的电动汽车聚合商参与能量-调频市场的鲁棒优化模型[J]. 电工技术学报, 2023, 38(3): 793-805.
XU Xiangchu, MI Zengqiang, ZHAN Zewei, et al. A robust optimization model for electric vehicle aggregator participation in energy and frequency regulation markets considering multiple uncertainties[J]. Transactions of China Electrotechnical Society, 2023, 38(3): 793-805. DOI:10.19595/j.cnki.1000-6753.tces.220597 (0)
[6]
李惠玲, 白晓民, 谭闻, 等. 电动汽车与分布式发电入网的协调控制研究[J]. 电网技术, 2013, 37(8): 2108-2115.
LI Huiling, BAI Xiaomin, TAN Wen, et al. Coordination control for grid-connection of plug-in hybrid electric vehicles and distributed generation[J]. Power System Technology, 2013, 37(8): 2108-2115. (0)
[7]
金志刚, 胡怡, 李根, 等. 面向"代客加电"服务的电动汽车充电引导策略[J]. 电力系统保护与控制, 2022, 50(14): 76-84.
JIN Zhigang, HU Yi, LI Gen, et al. Charging guiding strategy for electric vehicles oriented to a valet charging service[J]. Power System Protection and Control, 2022, 50(14): 76-84. (0)
[8]
陈芳, 王艳, 尹自力, 等. 电动汽车多因素负荷对湖南某地区电网的影响研究[J]. 智慧电力, 2018, 46(2): 40-44.
CHEN Fang, WANG Yan, YIN Zili, et al. Study on influence ofelectric vehicle multi-factor load on regional power grid in Hunan province[J]. Smart Power, 2018, 46(2): 40-44. (0)
[9]
陈黎军, 宋远军, 王坤, 等. 考虑参与电网辅助服务的电动汽车有序充电研究[J]. 电力需求侧管理, 2022, 24(1): 34-41.
CHEN Lijun, SONG Yuanjun, WANG Kun, et al. Study on orderly charging of electric vehicles considering participating in grid ancillary services[J]. Power Demand Side Management, 2022, 24(1): 34-41. (0)
[10]
白泽洋, 巨健, 姜炎君, 等. 电动汽车参与电网调峰的关键技术研究综述[J]. 电力需求侧管理, 2022, 24(6): 25-31.
BAI Zeyang, JU Jian, JIANG Yanjun, et al. Key technologies of electric vehicles participating in power grid peak shaving[J]. Power Demand Side Management, 2022, 24(6): 25-31. (0)
[11]
邢强, 陈中, 冷钊莹, 等. 基于实时交通信息的电动汽车路径规划和充电导航策略[J]. 中国电机工程学报, 2020, 40(2): 534-550.
XING Qiang, CHEN Zhong, LENG Zhaoying, et al. Route planning and charging navigation strategy for electric vehicles based on real-time traffic information[J]. Proceedings of the CSEE, 2020, 40(2): 534-550. (0)
[12]
邵尹池, 穆云飞, 林佳颖, 等. "车—站—网"多元需求下的电动汽车快速充电引导策略[J]. 电力系统自动化, 2019, 43(18): 60-66, 101.
SHAO Yinchi, MU Yunfei, LIN Jiaying, et al. Fast charging guidance strategy for multiple demands of electric vehicle, fast charging station and distribution network[J]. Automation of Electric Power Systems, 2019, 43(18): 60-66, 101. (0)
[13]
王均, 黄钶然, 许潇, 等. 基于阶梯碳价和自适应分时电价的电动汽车有序充电[J/OL]. 电力自动化设备: 1-12[2023-01-29]. https://doi.org/10.16081/j.epae.202304012.
WANG Jun, HUANG Keran, XU Xiao, et al. Ordered charging of electric vehicles based on ladder-type carbon price and adaptive time-of-use electricity price[J]. Electric Power Automation Equipment: 1-12[2023-01-29]. https://doi.org/10.16081/j.epae.202304012. (0)
[14]
王姝凝, 杨少兵. 居民小区电动汽车充电负荷有序控制策略[J]. 电力系统自动化, 2016, 40(4): 71-77.
WANG Shuning, YANG Shaobing. A coordinated charging control strategy for electric vehicles charging load in residential area[J]. Automation of Electric Power Systems, 2016, 40(4): 71-77. (0)
[15]
余晓玲, 余晓婷, 韩晓娟. 基于思维进化算法的电动汽车有序充电控制策略[J]. 电力工程技术, 2017, 36(6): 58-62.
YU Xiaoling, YU Xiaoting, HAN Xiaojuan. A coordinated charging strategy for PEV charging stations based on mind evolutionary algorithm[J]. Electric Power Engineering Technology, 2017, 36(6): 58-62. (0)
[16]
张琳娟, 许长清, 王利利, 等. 基于OD矩阵的电动汽车充电负荷时空分布预测[J]. 电力系统保护与控制, 2021, 49(20): 82-91.
ZHANG Linjuan, XU Changqing, WANG Lili, et al. OD matrix based spatiotemporal distribution of EV charging load prediction[J]. Power System Protection and Control, 2021, 49(20): 82-91. (0)
[17]
李琳玮, 宁光涛, 俞悦, 等. 基于交通信息的多类型电动汽车综合充电需求研究[J]. 电力工程技术, 2020, 39(1): 191-199.
LI Linwei, NING Guangtao, YU Yue, et al. Comprehensive charging demand of multi-type electric vehicles based on traffic information[J]. Electric Power Engineering Technology, 2020, 39(1): 191-199. (0)
[18]
景小敏. 电动汽车充电站接入配电网规划研究[D]. 上海: 东华大学, 2022.
JING Xiaomin. Research on the planning of electric vehicle charging station access to distribution network[D]. Shanghai: Donghua University, 2022. (0)
[19]
王震坡, 梁兆文. 中国新能源汽车大数据研究报告(2022)[M]. 3版. 北京: 机械工业出版社, 2022: 114-170.
WANG Zhenpo, LIANG Zhaowen. Annual report on the big data of new energy vehicle in China (2022)[M]. 3rd ed. Beijing: China Machine Press, 2022: 114-170. (0)
[20]
王明深. 面向多应用场景的电动汽车集群控制与日前竞价策略研究[D]. 天津: 天津大学, 2020.
WANG Mingshen. Control and day-ahead bidding strategies of electric vehicle aggregator for multiple application scenarios[D]. Tianjin: Tianjin University, 2020. (0)
[21]
CHEN Y M, MIAO D Q. Granular regression with a gradient descent method[J]. Information Sciences, 2020, 537: 246-260. (0)
[22]
吴小汉, 张谦, 粟尧嘉, 等. 基于区块链的私有充电桩共享平台交易策略[J]. 发电技术, 2022, 43(3): 439-451.
WU Xiaohan, ZHANG Qian, SU Yaojia, et al. Sharing platform trading strategy of private charging pile based on blockchain[J]. Power Generation Technology, 2022, 43(3): 439-451. (0)
[23]
杨世博, 孙亮, 陈立东, 等. 计及分时电价的含冷热电联供型微网的配电网系统协调优化调度[J]. 电力自动化设备, 2021, 41(4): 15-23.
YANG Shibo, SUN Liang, CHEN Lidong, et al. Coordinated optimal scheduling of distribution network with CCHP-based microgird considering time-of-use electricity price[J]. Electric Power Automation Equipment, 2021, 41(4): 15-23. (0)
[24]
郭莉, 薛贵元, 吴晨, 等. 储能系统应用于削峰填谷的经济效益分析研究[J]. 电力需求侧管理, 2019, 21(5): 31-34.
GUO Li, XUE Guiyuan, WU Chen, et al. Research on economic evaluation of energy storage applied to load shift[J]. Power Demand Side Management, 2019, 21(5): 31-34. (0)
[25]
XU H C, SUN H B, NIKOVSKI D, et al. Deep reinforcement learning for joint bidding and pricing of load serving entity[J]. IEEE Transactions on Smart Grid, 2019, 10(6): 6366-6375. (0)
[26]
WU S, LI G Q, DENG L, et al. L1-norm batch normalization for efficient training of deep neural networks[J]. IEEE Transactions on Neural Networks and Learning Systems, 2019, 30(7): 2043-2051. (0)
[27]
张延宇, 饶新朋, 周书奎, 等. 基于深度强化学习的电动汽车充电调度算法研究进展[J]. 电力系统保护与控制, 2022, 50(16): 179-187.
ZHANG Yanyu, RAO Xinpeng, ZHOU Shukui, et al. Research progress of electric vehicle charging scheduling algorithms based on deep reinforcement learning[J]. Power System Protection and Control, 2022, 50(16): 179-187. (0)
[28]
QIU D W, YE Y J, PAPADASKALOPOULOS D, et al. A deep reinforcement learning method for pricing electric vehicles with discrete charging levels[J]. IEEE Transactions on Industry Applications, 2020, 56(5): 5901-5912. (0)
[29]
赵远鹏. 基于深度学习的城市交通流预测研究与应用[D]. 南京: 南京邮电大学, 2022.
ZHAO Yuanpeng. Research and application of urban traffic flow prediction based on deep learning[D]. Nanjing: Nanjing University of Posts and Telecommunications, 2022. (0)
[30]
王威, 贺旭, 王晴, 等. 电动汽车充电对电网负荷和电气设备的影响[J]. 供用电, 2018, 35(9): 79-84.
WANG Wei, HE Xu, WANG Qing, et al. Impacts of electric vehicles charging on grid load and electrical equipment[J]. Distribution & Utilization, 2018, 35(9): 79-84. (0)
[31]
彭博新能源. 新能源汽车市场长期展望[R]. 2022.
Bloomberg New Energy. Long-term development of new energy vehicle market[R]. 2022. (0)
Peak load regulation pricing strategy of electric vehicle considering fast and slow charging characteristics
WANG Qingyuan, CUI Li, WANG Mingshen, GE Le    
School of Electric Power Engineering, Nanjing Institute of Technology, Nanjing 211167, China
Abstract: With the widespread use of distributed photovoltaic large-scale power generation, the net load ′duck′ curve has become more apparent. However, electric vehicle charging during the day is unable to fully utilize the new energy, and charging at night only adds to the already existing load peak. To address the issue of net load ′peak-to-peak′ exacerbation, the charging load transfer process is facililated with the objective of minimizing the peak-valley difference of net load. To achieve this, statistical data on fast and slow charging behaviors are used to predict future charging load distribution through Monte Carlo simulations. Fast and slow charging load constraints are then established based on the network access characteristics of slow charging and the delayed charging characteristics of fast charging. Then, the load transfer rate is calculated using the gradient descent method, and the charging load price response model is constructed based on user consumption psychology. Finally, economic analysis of power grid peak shaving limits the constraint of electricity price change, and a charging guidance model is constructed with the goal of minimizing the peak-valley difference of net load. Deep reinforcement learning is used to solve the model and solution strategy. The simulation results show that the proposed model and solution strategy can effectively guide the charging load to avoid the peak period of the net load, determine a reasonable price, and reduce the peak-valley difference of the power grid.
Keywords: electric vehicles    charging load guidance    peak cutting and valley filling    fast and slow charging constraint    deep reinforcement learning    net load