在自动化脚本中如何查找(点击)没有id,没有text的控件?
在编写自动化脚本的过程中,我们经常会遇到目标控件没有id或者多个id都一样,且没有text属性,而控件的className也不是唯一的情况。这类“三无”控件在自动化测试和RPA场景中极为常见,如果处理不当,会导致脚本的鲁棒性大幅下降。针对这一痛点,我们需要灵活运用冰狐智能辅助提供的API,通过多维度的策略来精准定位并操作这些控件。
一、 间接寻找:利用family参数与节点层级
当目标控件自身缺乏显著特征时,最推荐的策略是“曲线救国”。通过ui树工具观察目标控件的层级结构,寻找其附近具有唯一标识(如独特的text或id)的兄弟节点或父节点作为“锚点”,然后通过family参数或遍历父/子控件来间接获取目标控件。
// 方法1:手动遍历节点树 function fun1() { var ret = findView('txt:prod-dev'); if (ret.length > 0) { var view = ret.views[0]; // 通过parent属性逐层向上并向下定位 var targetView = view.parent.parent[1][0]; click(targetView); } } // 方法2:使用family参数(推荐,代码更简洁) function fun2() { // family数组表示从锚点出发的层级路径 var ret = findView('txt:prod-dev', {family:[0, 0, 2, 1]}); if (ret.length > 0) { click(ret.views[0]); } }这种方法的优势在于,即使目标控件没有属性,只要它的相对位置结构稳定,脚本就能稳定运行。
二、 索引定位:寻找所有符合条件的控件
默认情况下,findView只返回匹配到的第一个控件。如果页面上存在多个相同className且无id、无text的控件,我们可以使用find_all标志获取所有匹配项,然后通过数组索引精准点击。
function main() { // 查找所有text为'我的'的控件 var ret = findView('txt:我的', {flag: 'find_all'}); if (ret.length > 0) { // 明确指定点击第2个匹配的控件 var targetView = ret.views[1]; click(targetView); } }需要注意的是,使用索引定位时,必须确保页面布局的稳定性,否则控件的顺序可能会因为广告或动态内容的插入而发生改变。
三、 属性过滤与坐标辅助:多条件缩小范围
除了文本和ID,控件的布尔属性(如clickable、selected、checked)也是极佳的过滤条件。我们可以结合flag参数和控件的坐标属性(left、top等)来排除干扰项。
function main() { // 组合flag:查找所有可点击的ImageView var ret = findView('cn:android.widget.ImageView', {flag: 'find_all|clickable'}); if (ret.length > 0) { for (var view of ret.views) { // 结合坐标范围进一步确认 if (view.left > 100 && view.top < 30) { click(view); break; // 找到后退出循环 } } } }四、 终极方案:引入OCR视觉识别
当控件不仅没有id和text,甚至连标准的控件树节点都不存在(例如整个页面是一张图片,或者UI是通过Canvas/游戏引擎渲染的),此时传统的无障碍服务将失效。冰狐智能辅助提供了强大的OCR(光学字符识别)API作为兜底方案。
使用OCR需要两步:首先请求截屏权限,然后调用ocr函数识别屏幕上的文字及其坐标。
function main() { // 1. 必须先申请截屏权限 requestScreenShot(); // 2. 对指定区域进行OCR识别 (left, top, width, height) // 坐标值若大于1代表像素,若在0-1之间代表屏幕比例 var ret = ocr(100, 100, 200, 130); if (ret && ret.length > 0) { for (var item of ret) { if (item.text === '目标按钮') { // 获取识别到的区域中心点进行点击 var region = item.region; // [left, top, width, height] var clickX = region[0] + region[2] / 2; var clickY = region[1] + region[3] / 2; click(clickX, clickY); break; } } } }综上所述,面对没有id和text的控件,我们不应局限于单一的查找方式。从利用family参数进行层级推导,到使用find_all结合坐标过滤,再到动用OCR进行视觉识别,冰狐智能辅助提供了一套完整的多模态控件定位体系。在实际开发中,建议优先使用层级和属性过滤,将OCR作为最后的手段,以保证脚本的执行效率和稳定性。
