JavaScript'ten Veri Çıkarma
AJAX çağrılarındaki ve tek sayfalı uygulamalardaki içerikler dâhil JavaScript tarafından oluşturulan veya yüklenen verileri almayı öğrenin.
JavaScript'ten Veri Çıkarma, CoddyKit'te ücretsiz bir Web Scraping & Bots dersidir. Bu, 4 dersinin 3. dersidir. Aşağıdan dersin tamamını ücretsiz okuyabilir, sonra tarayıcıda yerleşik kod editörü ve 7/24 yapay zeka koçu ile uygulamalı olarak pratik yapabilirsin. Bu, Web Scraping & Bots öğrenme yolunun bir parçasıdır ve ilerlemeniz web ve CoddyKit uygulaması arasında senkronize olur. Web Scraping & Bots kursu toplamda 4 dersten oluşur.
Bu dersin bazı bölümleri henüz çevrilmemiş olup İngilizce olarak gösterilmektedir.
Dynamic Web Content Explained
Many modern websites don't load all their content at once. Instead, they use JavaScript to fetch data and update the page after it initially loads. This is called dynamic content.
Traditional scraping tools like Requests and BeautifulSoup only see the initial HTML. They miss anything JavaScript loads later.
JavaScript's Role in Loading
JavaScript can load new data in several ways:
- AJAX Calls: Asynchronous JavaScript and XML. The browser requests data from a server in the background without reloading the entire page.
- DOM Manipulation: JavaScript directly adds, removes, or modifies elements in the page's structure (Document Object Model).
- Single-Page Applications (SPAs): Entire websites built to dynamically load content and navigate without full page refreshes.
This dynamic loading makes scraping more complex.
When Requests & BS4 Fall Short
When you use Python's requests library, you get the raw HTML that the server sends initially. If a website then uses JavaScript to load more data, that data won't be in the HTML you received.
BeautifulSoup can only parse the HTML it's given. It can't execute JavaScript to fetch additional content or wait for it to appear.
Selenium for Dynamic Content
This is where Selenium becomes essential. Selenium controls a real web browser (like Chrome or Firefox) programmatically.
When Selenium opens a page, the browser executes all JavaScript, including any AJAX calls or DOM manipulations. This means Selenium sees the fully rendered page, just like a human user would.
Waiting for Elements to Appear
Since content loads dynamically, it might not be immediately available when Selenium first loads a page. You need to tell Selenium to wait until a specific element or condition is met before trying to extract data.
If you don't wait, your script might try to find an element before JavaScript has rendered it, leading to errors or missing data.
Using Explicit Waits
Selenium's WebDriverWait combined with ExpectedConditions (EC) allows you to set explicit waits. This tells Selenium to wait for a maximum amount of time until a certain condition is true.
Common conditions include waiting for an element to be visible, clickable, or present in the DOM.
Try running this example:
from selenium import webdriver
from selenium.webdriver.common.by import By
from selenium.webdriver.support.ui import WebDriverWait
from selenium.webdriver.support import expected_conditions as EC
import time
def main():
driver = webdriver.Chrome()
driver.get("https://www.selenium.dev/selenium/web/dynamic.html")
# Click a button that will make an element appear after a delay
driver.find_element(By.ID, "adder").click()
# Wait up to 10 seconds for the new element to appear
try:
new_element = WebDriverWait(driver, 10).until(
EC.presence_of_element_located((By.ID, "box0"))
)
print("New element found:", new_element.text)
except Exception as e:
print("Element not found within time limit:", e)
driver.quit()
if __name__ == "__main__":
main()Extracting Rendered Data
Once you've successfully waited for dynamic content to appear, extracting the data is similar to how you'd extract from static content using Selenium.
You can use methods like find_element(By.ID, "id_name"), find_element(By.CLASS_NAME, "class_name"), or find_element(By.CSS_SELECTOR, "css_selector") to locate the elements. Then, you can retrieve their text content or attributes.
Code: Get Dynamic Text
This example shows how to wait for an element and then extract its text. Imagine a page where a "Loading..." message changes to actual data after a few seconds.
Try running this example:
from selenium import webdriver
from selenium.webdriver.common.by import By
from selenium.webdriver.support.ui import WebDriverWait
from selenium.webdriver.support import expected_conditions as EC
import time
def main():
driver = webdriver.Chrome()
# Using a simple test page that changes content
driver.get("https://www.selenium.dev/selenium/web/dynamic.html")
# Click button to reveal content
driver.find_element(By.ID, "reveal").click()
# Wait for the content to be visible
try:
# The 'revealed' div becomes visible
revealed_div = WebDriverWait(driver, 10).until(
EC.visibility_of_element_located((By.ID, "revealed"))
)
print("Revealed content:", revealed_div.text)
except Exception as e:
print("Revealed content not found:", e)
driver.quit()
if __name__ == "__main__":
main()Scraping Single-Page Apps
Single-Page Applications (SPAs) are websites that load a single HTML page and then dynamically update content as the user interacts. Navigation within an SPA often doesn't involve full page reloads.
Selenium handles SPAs well because it acts as a full browser. You interact with elements (like clicking navigation links) and Selenium executes the JavaScript, updating the DOM. You then apply the same waiting and extraction techniques.
Quick Check on Waiting
When scraping dynamic content that appears after the initial page load, which Selenium technique is crucial to ensure the content is available before attempting to extract it?
Recap: Dynamic Data Extraction
Great job! You've learned how to tackle dynamic web content:
- Many sites use JavaScript for AJAX calls, DOM manipulation, and SPAs.
- Traditional tools like Requests and BeautifulSoup cannot execute JavaScript.
- Selenium, by controlling a full browser, can render JavaScript.
- Explicit waits are essential to ensure dynamically loaded content is present before extraction.
This skill opens up a vast number of modern websites for your scraping projects!
Sıkça Sorulan Sorular
“JavaScript'ten Veri Çıkarma” dersi ücretsiz mi?
Evet — “JavaScript'ten Veri Çıkarma” dersin tüm metni burada web'de ücretsiz olarak okunabilir. Etkileşimli olarak pratik yapmak (yerleşik kod editörü ve 7/24 yapay zeka koçu) ve Web Scraping & Bots kursunun geri kalanını açmak için CoddyKit PRO'ya yükselt. Web Scraping & Bots kursu toplamda 4 dersten oluşur.
“JavaScript'ten Veri Çıkarma” dersinde ne öğreneceğim?
AJAX çağrılarındaki ve tek sayfalı uygulamalardaki içerikler dâhil JavaScript tarafından oluşturulan veya yüklenen verileri almayı öğrenin. Web Scraping & Bots ile uygulamalı kodu tarayıcıda doğrudan çalıştırarak pratik yaparsın ve 7/24 yapay zeka koçu dersi çalışırken sorularını yanıtlar.
Web Scraping & Bots öğrenmeye başlamak için deneyim gerekli mi?
Önceden deneyim gerekmez. CoddyKit'te Web Scraping & Bots, başlangıçtan ileri seviyeye kadar yapılandırıldığı için buradan başlayabilir veya başından başlayıp kendi hızında ilerleme yapabilirsin. Bu, 4 dersinin 3. dersidir.
“JavaScript'ten Veri Çıkarma” dersi ne kadar sürer?
Çoğu CoddyKit dersi yaklaşık 5–10 dakika sürer. Her biri kısa ve etkileşimli olduğu için sabit ilerleme yaparsın ve web ile uygulama arasında tam olarak bıraktığın yerden devam edebilirsin.
Bu Web Scraping & Bots dersinde kod yazıp çalıştırabilir miyim?
Evet. Her Web Scraping & Bots dersi yerleşik bir kod editörü içerir, bu sayede tarayıcıda gerçek kod yazıp çalıştırabilir ve anlık yapay zeka geri bildirimi alırsın — yerel kurulum gerekli değildir.
Bu kursun tüm dersleri
- Selenium'a Giriş
- Tarayıcı Etkileşimlerini Otomatikleştirme
- JavaScript'ten Veri Çıkarma
- Dinamik Sayfalar için Bekleme Stratejileri