Prompty do podsumowywania i ekstrakcji

Duże modele językowe (LLM) to potężne narzędzia do przetwarzania ogromnych ilości tekstu. Dwa podstawowe i niezwykle przydatne zadania, które można za ich pomocą wykonywać, to podsumowywanie i ekstrakcja.

Podsumowywanie pomaga szybko zrozumieć najważniejsze informacje z długich dokumentów. Ekstrakcja umożliwia wskazanie i wyodrębnienie konkretnych, ustrukturyzowanych danych. Opanowanie tych technik pozwala oszczędzać czas i przekuwać informacje w konkretne działania!

Podsumowywanie to proces skracania dłuższego tekstu do krótszej wersji przy jednoczesnym zachowaniu jego głównego znaczenia i najważniejszych informacji. Można traktować je jako tworzenie zwięzłego przeglądu lub streszczenia.

Aby poprosić LLM o podsumowanie, zazwyczaj należy podać tekst i jasną instrukcję. Na przykład:

"Summarize the following article: [ARTICLE TEXT]"

Mogą Państwo pokierować LLM tak, aby tworzył podsumowania dokładnie dopasowane do potrzeb. W promptcie należy precyzyjnie określić:

• Długość: "w 3 zdaniach", "poniżej 100 słów", "krótkie podsumowanie".
• Format: "w punktach", "w akapicie", "jako nagłówek".
• Styl/ton: "dla odbiorców nietechnicznych", "formalnym tonem", "jak relacja informacyjna".

Precyzyjne instrukcje pomagają LLM dostarczyć dokładnie takie dane wyjściowe, jakich Państwo oczekują.

Podsumujmy krótki akapit dotyczący prompt engineeringu. Oto, jak można skonstruować prompt:

Tekst wejściowy: "Prompt engineering to koncepcja w sztucznej inteligencji, zwłaszcza w przetwarzaniu języka naturalnego, skupiająca się na opracowywaniu i optymalizowaniu promptów, aby efektywnie wykorzystywać modele językowe w szerokim zakresie zastosowań i tematów badawczych. Jest to stosunkowo nowa dziedzina opisująca metody komunikowania się z LLM-ami w celu ukierunkowania ich działania na pożądane rezultaty bez modyfikowania wag modelu."

Prompt:

"Summarize the following text in one concise sentence: Prompt engineering is a concept in artificial intelligence, especially natural language processing, that focuses on developing and optimizing prompts to efficiently use language models for a wide range of applications and research topics. It's a relatively new discipline, outlining the methods for communicating with LLMs to steer their behavior for desired outcomes without modifying the model's weights."

Ekstrakcja polega na identyfikowaniu i wyodrębnianiu konkretnych fragmentów informacji z większego tekstu. W odróżnieniu od podsumowywania nie skracają Państwo tekstu, lecz wyodrębniają określone punkty danych, fakty lub encje.

Do typowych zadań ekstrakcji należy wyszukiwanie nazw, dat, lokalizacji, cech produktów lub opinii. Technika ta ma kluczowe znaczenie, gdy trzeba przekształcić nieustrukturyzowany tekst w ustrukturyzowane dane.

Podczas ekstrakcji informacji często warto określić oczekiwany format danych wyjściowych. Dzięki temu wyodrębnione dane łatwiej przetwarzać, analizować lub integrować z innymi systemami.

• Listy: "Wymień wszystkie nazwy firm wspomniane w tekście."
• JSON: "Wyodrębnij imię i nazwisko, wiek oraz miasto jako obiekt JSON."
• Tabele: "Przedstaw wyniki w tabeli z kolumnami „Element” i „Cena”."

Jasne instrukcje dotyczące formatowania są niezbędne w przypadku ustrukturyzowanych danych wyjściowych.

Wyodrębnijmy dane kontaktowe z fragmentu wiadomości e-mail. Oto przykład promptu dla LLM:

Tekst wejściowy: "Szanowny Panie Johnie Smith, dziękuję za przesłane zapytanie. Nasza przedstawicielka handlowa, Sarah Jones, jest dostępna pod adresem sarah.jones@example.com lub pod numerem telefonu (555) 123-4567. Nasze biuro znajduje się pod adresem 123 Main St, Anytown, USA."

Prompt:

"Extract the following information from the text: recipient name, sales representative name, sales representative email, sales representative phone, and office address. Present the output as a JSON object. Text: Dear John Smith, Thank you for your inquiry. Our sales representative, Sarah Jones, can be reached at sarah.jones@example.com or by phone at (555) 123-4567. Our office is located at 123 Main St, Anytown, USA."

W przypadku bardziej złożonych zadań można często połączyć te dwie potężne techniki:

• Najpierw podsumowanie, potem ekstrakcja: Najpierw uzyskuje się zwięzłe podsumowanie długiego dokumentu, a następnie wyodrębnia konkretne encje lub fakty z tego podsumowania.
• Najpierw ekstrakcja, potem podsumowanie: Należy wyodrębnić wszystkie istotne fakty, a następnie poprosić LLM o podsumowanie ich w spójnej wypowiedzi.

Takie modułowe podejście pomaga zarządzać złożonością i zwiększać dokładność wyników.

Aby uzyskać od LLM jak najskuteczniejsze podsumowania i ekstrakcje:

• Proszę zachować precyzję: Jasno określić wymagania, takie jak długość podsumowania, format danych wyjściowych czy konkretne encje do wyodrębnienia.
• Proszę używać delimiterów: Umieścić przetwarzany tekst w wyraźnie oznaczonych delimiterach, takich jak potrójne cudzysłowy (""") lub tagi XML, aby oddzielić go od instrukcji.
• Proszę podać kontekst: Krótko wyjaśnić cel podsumowania lub ekstrakcji, jeśli pomoże to LLM zrozumieć zadanie.
• Proszę iterować: Jeśli początkowe dane wyjściowe nie są idealne, należy udoskonalić prompt. Niewielkie zmiany mogą przynieść dużą różnicę!

Proszę rozważyć poniższe scenariusze. Które z tych zadań wymaga przede wszystkim ekstrakcji, a nie podsumowywania, z danego tekstu?

W tej lekcji omówiliśmy dwie potężne techniki prompt engineeringu służące do przetwarzania tekstu za pomocą LLM:

• Podsumowywanie: Nauczyliśmy się skracać tekst do krótszych wersji, kontrolując długość, format i styl, aby szybko uchwycić jego najważniejsze informacje.
• Ekstrakcja: Skupiliśmy się na wyodrębnianiu konkretnych, ustrukturyzowanych informacji, takich jak nazwy, daty czy fakty, podkreślając znaczenie określania formatów danych wyjściowych, na przykład JSON lub list.

Opanowanie tych technik znacznie zwiększy Państwa możliwości sprawnego przetwarzania i wykorzystywania informacji z nieustrukturyzowanych danych tekstowych za pomocą LLM.