- A+
起因
最近,同事跟我说,他们负责的一个Api程序出现了一些很奇怪的事情。这个Api是为环保局做的一个扬尘质控大屏提供数据的,底层是基于Nancy做的。因为发现有些接口的数据出现异常,他就去调试了一下,发现当前端传递的参数如果是空,后端反序列化的时候会出现参数值和参数名是一样的情况,这就会导致查询的数据错误。没有找到原因之前,只能通过nameof来判断做处理。具体情况,见下图。
问题就是这么个问题,其实就是因为传递的参数不合规则导致的。正常情况下,参数应该是参数名1=参数值1&参数名2=参数值2,但是这里传递的空参数缺少了=,导致后端识别解析出了问题,只要按照正常的参数名1=参数值1&参数名2=参数值2即可解决问题,所以这里的bug是加了双引号,并不能完全是Nancy的锅。由于前端是基于公共的saas软件服务开发的,参数格式我们也无法修改的,于是就想在后端做一些处理来解决这个问题。
查源码
我们在Module里通过下面的代码来定义一个Api,使用Bind<T>来反序列化请求的参数模型。
/// <summary> /// GET请求示例 /// </summary> /// <param name="_"></param> /// <returns></returns> public Response GetSamp(dynamic _) { var req = this.Bind<SampleInDto>(); return Response.AsJson(req); }
F12找到Bind<T>定义的位置,见下图
// // 摘要: // Bind the incoming request to a model // // 参数: // module: // Current module // // 类型参数: // TModel: // Model type // // 返回结果: // Bound model instance public static TModel Bind<TModel>(this INancyModule module) { return module.Bind(); }
这个方法是接口所定义的一个方法INancyModule,再次F12进入,可以发现INancyModule有一个上下文对象NancyContext。
这个就是整个HTTP请求的上下文对象,进入NancyContext可以发现他包含HTTP请求中的的Request和Response对象
我们再进入Request对象,可以发现它包含一些常见对象,比如form,cookies,header,Query,method等等。
我们可以发现,Form和Query的类型是dynamic动态类型,其中Form定义的是一个DynamicDictionary类型的动态类型,从字面理解也很容易想到,这两个对象保存的就是我们HTTP请求中通过地址和表单提交的参数键值对字典。因为我们的HTTP请求都是通过GET方式发起的地址传参,所以暂时不去理会Form,先去找到Query赋值的地方。最好的方式就是通过源码来查看,那就先去https://github.com/NancyFx/Nancy下载Nancy的源码吧。源码下载完毕,先去除一些无用的项目集,之后便是Nancy的源码吧。还是很意外的,没想到一个打着轻量级名号的WebApi框架,源码居然这么庞大。
源码在手,我们先找到Query定义的位置,通过查找引用,我们可以发现是通过一个AsQueryDictionary()的方法进行了赋值的。
接下来通过多次F12可以发现数据来自System.Uri的Query对象,这个Query的类型是string。说白了,这个就是url中从?开始的部分。比如?name=张三&age=20,相信大家都很容易理解这些吧。
/// <summary> /// Initializes a new instance of the <see cref="Url" /> class, with /// the provided <paramref name="url"/>. /// </summary> /// <param name="url">A <see cref="string" /> containing a URL.</param> public Url(string url) { var uri = new Uri(url); this.HostName = uri.Host; this.Path = uri.LocalPath; this.Port = uri.Port; this.Query = uri.Query; this.Scheme = uri.Scheme; }
下面,重点就是这个AsQueryDictionary()的方法了,它的作用就是对字符串部分的参数进行重新组装,放到动态字典类型的Query中,此Query非彼Query。我猜测,出问题的地方就在这个AsQueryDictionary()里面,为了验证猜想,我决定把相关的代码扒下来,通过一个简单的控制台程序来验证。这个过程比较DT,一个方法调用另外一个方法,一个类引用另外一个类,只能一个一个尝试,把需要的代码拿过来,最终的结果就是下面的样子了。
测试方法,直接写在了Main方法中,如下所示。
class Program { static void Main(string[] args) { string format = "http://localhost:5050/hello?{0}"; var context = new NancyContext(); string[] arrNormal = new string[] { string.Format(format, "name=张三&age=20"), string.Format(format, "name=张三&age="), string.Format(format, "name&age"), string.Format(format, "name=&age") }; Console.WriteLine(">>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>明文参数>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>"); foreach (string _url in arrNormal) { Console.WriteLine($"=============={_url}=============="); var url = new Url(_url); context.Request = new Request(url); var dic = context.Request.Query as DynamicDictionary; foreach (string key in dic.Keys) { Console.WriteLine($"{key}={dic[key]}"); } } Console.ReadKey(); } }
我准备了几种传参的方式,把最后得到的Query打印出来,如下图。
很明显,我们复现了这个Nancy的小“bug”。现在我们已经知道是因为AsQueryDictionary()的缘故了,接下来就是断点调试一下,看看到底是怎么回事。
最核心的两个方法是下面的这两个方法,代码很简单,相信大家都能理解,我简单说一下,第一个方法是根据参数的连接符&分组,然后遍历这个数组,将每个组的内容再根据键值对的连接符=来分组,分别取出参数名和参数值,放入到字典中。
internal static void ParseQueryString(string query, Encoding encoding, NameValueCollection result) { if (query.Length == 0) return; var decoded = HtmlDecode(query); var segments = decoded.Split(new[] { '&' }, StringSplitOptions.None); foreach (var segment in segments) { var keyValuePair = ParseQueryStringSegment(segment, encoding); if (!Equals(keyValuePair, default(KeyValuePair<string, string>))) result.Add(keyValuePair.Key, keyValuePair.Value); } } private static KeyValuePair<string, string> ParseQueryStringSegment(string segment, Encoding encoding) { if (String.IsNullOrWhiteSpace(segment)) return default(KeyValuePair<string, string>); var indexOfEquals = segment.IndexOf('='); if (indexOfEquals == -1) { var decoded = UrlDecode(segment, encoding); return new KeyValuePair<string, string>(decoded, decoded); } var key = UrlDecode(segment.Substring(0, indexOfEquals), encoding); var length = (segment.Length - indexOfEquals) - 1; var value = UrlDecode(segment.Substring(indexOfEquals + 1, length), encoding); return new KeyValuePair<string, string>(key, value); }
本来,这样操作是正常操作,没啥毛病。但是,我们注意看这一段代码。
var indexOfEquals = segment.IndexOf('='); if (indexOfEquals == -1) { var decoded = UrlDecode(segment, encoding); return new KeyValuePair<string, string>(decoded, decoded); }
它发现参数分组中没有=连接符,会先进行一波url参数解码,然后将解码的内容既当key又作value放入了字典中,这也太骚了,我无法理解为什么会这么写,可能是我的段位太低了,始终无法理解其含义。但是这就是导致这个问题的根本原因,我们只需要对这一段代码进行一下稍微的改造即可。
var indexOfEquals = segment.IndexOf('='); if (indexOfEquals == -1) { segment = UrlDecode(segment, encoding); indexOfEquals = segment.IndexOf('='); if (indexOfEquals == -1) { return new KeyValuePair<string, string>(segment, ""); } }
我们在发现参数分组中没有正常的key=value组合时,将value部分置空即可。接下来,再次运行程序,我们会发现问题已经解决了。
问题虽然解决,但是我们发现源码中有很多对参数进行解码的操作。于是,我就在想如果参数编码之后,能否正常解析呢?于是,我就准备了几组不同格式的参数进行了验证。
我们会发现当参数部分进行url编码之后,已经是无法正常解析了。于是,再次对源码进行调试分析。很快,就定位到下面这一段代码。
var decoded = HtmlDecode(query); var segments = decoded.Split(new[] { '&' }, StringSplitOptions.None);
断点之后,发现当经过url编码的参数字符串query到这里,无法查找到参数连接符&,导致所有的参数都变成了同一个参数。解决办法也很简单,就是不存在&连接符的时候,再次进行解码即可。
var decoded = HtmlDecode(query); if (decoded.IndexOf('&') == -1) { decoded = UrlDecode(decoded, encoding); } var segments = decoded.Split(new[] { '&' }, StringSplitOptions.None);
至此,问题得到解决。但是新的问题产生了,怎么解决这个问题?
NNancy官方已经停止维护,不再更新了。
我们也没办法再提issue了。
解决办法
很明显,这两个私有方法,我们是无法重写的,那我们怎么办呢?Nancy和ASP.NET MVC框架一样是有过滤器的,我们可以在拦截器中对上下文中的Query进行修改。
首先,我们来新建一个扩展方法类,拿来主义,直接把源码中HttpUtility.cs文件拿过来,新建两个修复方法:ParseQueryStringFix,ParseQueryStringSegmentFix,完整代码如下。
using System; using System.Collections.Generic; using System.Collections.Specialized; using System.Linq; using System.Text; using HttpUtility = Nancy.Helpers.HttpUtility; namespace Nancy.FixQueryDictionary { /// <summary> /// Nancy Http请求参数字典解析错误修复扩展方法 /// </summary> public static class NancyFixQueryDictionaryExtensions { /// <summary> /// 修复Http请求参数字典解析错误 /// </summary> /// <param name="ctx">NancyContext对象</param> /// <returns>NancyContext对象</returns> public static NancyContext FixQueryDictionary(this NancyContext ctx) { if (ctx == null) { return ctx; } ctx.Request.Query = ctx.Request.Url.Query.AsQueryDictionary(); return ctx; } /// <summary> /// /// </summary> /// <param name="queryString"></param> /// <returns></returns> public static DynamicDictionary AsQueryDictionary(this string queryString) { var coll = ParseQueryString(queryString); var ret = new DynamicDictionary(); var found = 0; foreach (var key in coll.AllKeys.Where(key => key != null)) { ret[key] = coll[key]; found++; if (found >= StaticConfiguration.RequestQueryFormMultipartLimit) { break; } } return ret; } /// <summary> /// /// </summary> /// <param name="query"></param> /// <returns></returns> public static NameValueCollection ParseQueryString(string query) { return ParseQueryString(query, Encoding.UTF8); } /// <summary> /// /// </summary> /// <param name="query"></param> /// <param name="caseSensitive"></param> /// <returns></returns> public static NameValueCollection ParseQueryString(string query, bool caseSensitive) { return ParseQueryString(query, Encoding.UTF8, caseSensitive); } /// <summary> /// /// </summary> /// <param name="query"></param> /// <param name="encoding"></param> /// <returns></returns> public static NameValueCollection ParseQueryString(string query, Encoding encoding) { return ParseQueryString(query, encoding, StaticConfiguration.CaseSensitive); } /// <summary> /// /// </summary> /// <param name="query"></param> /// <param name="encoding"></param> /// <param name="caseSensitive"></param> /// <returns></returns> /// <exception cref="ArgumentNullException"></exception> public static NameValueCollection ParseQueryString(string query, Encoding encoding, bool caseSensitive) { if (query == null) throw new ArgumentNullException("query"); if (encoding == null) throw new ArgumentNullException("encoding"); if (query.Length == 0 || (query.Length == 1 && query[0] == '?')) return new NameValueCollection(StringComparer.Ordinal); if (query[0] == '?') query = query.Substring(1); NameValueCollection result = new NameValueCollection(StringComparer.Ordinal); ParseQueryStringFix(query, encoding, result); return result; } #region 原方法 internal static void ParseQueryString(string query, Encoding encoding, NameValueCollection result) { if (query.Length == 0) return; var decoded = HttpUtility.HtmlDecode(query); var segments = decoded.Split(new[] { '&' }, StringSplitOptions.None); foreach (var segment in segments) { var keyValuePair = ParseQueryStringSegment(segment, encoding); if (!Equals(keyValuePair, default(KeyValuePair<string, string>))) result.Add(keyValuePair.Key, keyValuePair.Value); } } private static KeyValuePair<string, string> ParseQueryStringSegment(string segment, Encoding encoding) { if (String.IsNullOrWhiteSpace(segment)) return default(KeyValuePair<string, string>); var indexOfEquals = segment.IndexOf('='); if (indexOfEquals == -1) { var decoded = HttpUtility.UrlDecode(segment, encoding); return new KeyValuePair<string, string>(decoded, decoded); } var key = HttpUtility.UrlDecode(segment.Substring(0, indexOfEquals), encoding); var length = (segment.Length - indexOfEquals) - 1; var value = HttpUtility.UrlDecode(segment.Substring(indexOfEquals + 1, length), encoding); return new KeyValuePair<string, string>(key, value); } #endregion #region 修复方法 internal static void ParseQueryStringFix(string query, Encoding encoding, NameValueCollection result) { if (query.Length == 0) return; var decoded = HttpUtility.HtmlDecode(query); if (decoded.IndexOf('&') == -1) { decoded = HttpUtility.UrlDecode(decoded, encoding); } var segments = decoded.Split(new[] { '&' }, StringSplitOptions.None); foreach (var segment in segments) { var keyValuePair = ParseQueryStringSegmentFix(segment, encoding); if (!Equals(keyValuePair, default(KeyValuePair<string, string>))) result.Add(keyValuePair.Key, keyValuePair.Value); } } private static KeyValuePair<string, string> ParseQueryStringSegmentFix(string segment, Encoding encoding) { if (String.IsNullOrWhiteSpace(segment)) return default(KeyValuePair<string, string>); var indexOfEquals = segment.IndexOf('='); if (indexOfEquals == -1) { segment = HttpUtility.UrlDecode(segment, encoding); indexOfEquals = segment.IndexOf('='); if (indexOfEquals == -1) { return new KeyValuePair<string, string>(segment, ""); } } var key = HttpUtility.UrlDecode(segment.Substring(0, indexOfEquals), encoding); var length = (segment.Length - indexOfEquals) - 1; var value = HttpUtility.UrlDecode(segment.Substring(indexOfEquals + 1, length), encoding); var res = new KeyValuePair<string, string>(key, value); return res; } #endregion } }
接下来,我们在拦截器中进行参数拦截处理。
/// <summary> /// 前置拦截器 /// </summary> /// <param name="ctx">NancyContext上下文对象</param> /// <returns></returns> private Response BeforeRequest(NancyContext ctx) { ctx.FixQueryDictionary(); //TODO: return ctx.Response; }
总结
至此,我们的问题和问题都得到了解决。本来到此应该结束了,但是心血来潮,想要把这个代码发布成nuget包,完成人生第一个nuget包的发布,想想还是挺激动的,经过一番百度操作,大概了解了nuget包的发布过程。本打算一次写完的,无奈时间不早了,该睡觉觉了,剩下的内容留着下篇再写吧。
如果各位大佬对此问题有什么更好的高见,欢迎留言!