Извлечение lxml xpath для таблицы html

У меня есть html-документ, похожий на следующий:

<html xmlns="http://www.w3.org/1999/xhtml" xmlns="http://www.w3.org/1999/xhtml">
    <div id="Symbols" class="cb">
    <table class="quotes">
    <tr><th>Code</th><th>Name</th>
        <th style="text-align:right;">High</th>
        <th style="text-align:right;">Low</th>
    </tr>
    <tr class="ro" onclick="location.href='/xyz.com/A.htm';" style="color:red;">
        <td><a href="/xyz.com/A.htm" title="Display,A">A</a></td>
        <td>A Inc.</td>
        <td align="right">45.44</td>
        <td align="right">44.26</td>
    <tr class="re" onclick="location.href='/xyz.com/B.htm';" style="color:red;">
        <td><a href="/xyz.com/B.htm" title="Display,B">B</a></td>
        <td>B Inc.</td>
        <td align="right">18.29</td>
        <td align="right">17.92</td>
</div></html>

Мне нужно извлечь code/name/high/low информации из таблицы.

Я использовал следующий код из одного из подобных примеров в Stack Over Flow:

#############################
import urllib2
from lxml import html, etree

webpg = urllib2.urlopen(http://www.eoddata.com/stocklist/NYSE/A.htm).read()
table = html.fromstring(webpg)

for row in table.xpath('//table[@class="quotes"]/tbody/tr'):
    for column in row.xpath('./th[position()>0]/text() | ./td[position()=1]/a/text() | ./td[position()>1]/text()'):
        print column.strip(),
    print

#############################

У меня ничего не выходит. Мне нужно изменить первый цикл xpath на table.xpath('//tr') с table.xpath('//table[@class="quotes"]/tbody/tr')

Я просто не понимаю, почему xpath('//table[@class="quotes"]/tbody/tr') не работает.


person mkt2012    schedule 07.04.2011    source источник
comment
я нашел свою проблему. Каким-то образом тег «tbody» был удален. В Firebug tbody появляется сразу после ‹table class=quotes› и перед тегом ‹tr›.   -  person mkt2012    schedule 07.04.2011
comment
Да, это FAQ: браузеры добавляют в DOM обязательные (X)HTML-элементы (например, head и tbody). Кстати, это именно то, что @samplebias' ответ сказать.   -  person    schedule 08.04.2011
comment
возможный дубликат проблемы Python lxml XPath   -  person    schedule 08.04.2011


Ответы (1)


Вы, вероятно, смотрите на HTML в Firebug, верно? Браузер вставит неявный тег <tbody>, если его нет в документе. Библиотека lxml будет обрабатывать только те теги, которые присутствуют в необработанной строке HTML.

Опустите уровень tbody в XPath. Например, это работает:

tree = lxml.html.fromstring(raw_html)
tree.xpath('//table[@class="quotes"]/tr')
[<Element tr at 1014206d0>, <Element tr at 101420738>, <Element tr at 1014207a0>]
person samplebias    schedule 07.04.2011
comment
Я испытал это и с Chrome. Использовал свою функцию Copy XPath в контекстном меню «Проверить». Как-то глупо. - person ficuscr; 24.02.2014
comment
Знаете ли вы какие-либо другие правила изменения пути, которые могут произойти в FF/Chrome? Было бы интересно их собрать. - person lajarre; 21.08.2015