Лекція. Advanced datastore

Содержание

Слайд 2

Вступ Минулого разу ми познайомилися з основними операціями по роботі з

Вступ

Минулого разу ми познайомилися з основними операціями по роботі з Datastore
Нам

цього достатньо?
Як ви думаєте, чого не вистачає?
Слайд 3

Вступ Transactions Consistence Data relationships

Вступ

Transactions
Consistence
Data relationships

Слайд 4

Data Relationships Ancestor assigned at creation can never be changed в

Data Relationships

Ancestor
assigned at creation
can never be changed
в нашому застосуванні будуть конференції

і користувачі, що створюють конференції
хто буде ancestor?
USER
Слайд 5

Data Relationships HAS-A в нас на конференцію будуть записуватися різні користувачі

Data Relationships

HAS-A
в нас на конференцію будуть записуватися різні користувачі
таким чином в

однієї конференції буде багато відвідувачів
тому вони будуть мати зв’язок HAS-A
Слайд 6

Конференції Зараз ми спробуємо розібратися з нашими конференціями нам потрібно навчитися

Конференції

Зараз ми спробуємо розібратися з нашими конференціями
нам потрібно навчитися писати запити

і використовувати фільтри
розібратися з індексами
розібратися з транзакціями
Слайд 7

Створення конференції Перше з чого ми почнемо, це з створення конференції

Створення конференції

Перше з чого ми почнемо, це з створення конференції
Десь так

воно має виглядати в вас зараз
Але зараз конференція не створиться, бо ми ще не реалізували API
Слайд 8

Створення конференції Ми хочемо створити Entity конференція таким чином, що б

Створення конференції

Ми хочемо створити Entity конференція таким чином, що б кожна

конференція мала свого Parent (користувача, що створює конференцію)
Як ви думаєте навіщо це робити?
знайти всі конференції користувача
при видаленні користувача видалити всі його конференції
Слайд 9

Створення конференції Давайте подивимося на два нові класи: Conference звернемо увагу

Створення конференції

Давайте подивимося на два нові класи:
Conference
звернемо увагу на нові

анотації та методи
ConferenceForm
дуже простий клас, що використовується для веб інтерфейсу
ми вже використовували схожий для Profile
ці класи в додатку до лекції
ви маєте покласти ці файли в вірні пакети
Слайд 10

Анотації Які анотації нові ми побачили? Що значить @Index? Що значить @Parent?

Анотації

Які анотації нові ми побачили?
Що значить @Index?
Що значить @Parent?

Слайд 11

OfyService Тепер нам необхідно внести зміни в OfyService Ми маємо зареєструвати Conference класс factory().register(Conference.class);

OfyService

Тепер нам необхідно внести зміни в OfyService
Ми маємо зареєструвати Conference класс
factory().register(Conference.class);

Слайд 12

ConferenceApi Тепер нам необхідно додати певні методи в ConferenceApi Ми додамо

ConferenceApi

Тепер нам необхідно додати певні методи в ConferenceApi
Ми додамо методи
getProfileFromUser
createConference
їхні заглушки

також в додатковому коді, подивимося на них
Слайд 13

ConferenceApi Допишемо код: Спочатку отримаємо Key користувача Key profileKey = Key.create(Profile.class,userId);

ConferenceApi

Допишемо код:
Спочатку отримаємо Key користувача
Key profileKey = Key.create(Profile.class,userId);
Після цього виділимо ключ

для нашої конференції
Синтаксис має вигляд
Key key = factory().allocatedId(Entity.Class);
factory() статичний метод в OfyService
Але в нашому випадку це не зовсім вірно так як наш клас Conference має батька Profile
в такому випадку синтаксис має вигляд:
Key key = factory().allocatedId(parentKey,Entity.Class);
Слайд 14

ConferenceApi Раніше ми вже навчилися зберігати сутності Але в нашому випадку

ConferenceApi

Раніше ми вже навчилися зберігати сутності
Але в нашому випадку необхідно одразу

зберігати дві сутності Profile і Conference
Тоді ми можемо скористатися методом entities()
ofy().save().entities(entity1,entity2,…).now();
Слайд 15

ConferenceApi Тепер ми можемо забрати id для Conference маючи ключ key.

ConferenceApi

Тепер ми можемо забрати id для Conference маючи ключ
key. getId();
Далі ми

заберемо існуючий профайл або створимо новий для користувача з значеннями за замовчанням
Створимо нову конференцію
і в кінці збережемо разом конференцію і профайл
Слайд 16

Типи запитів В нашому застосуванні мають бути наступні фільтри: всі конференції

Типи запитів

В нашому застосуванні мають бути наступні фільтри:
всі конференції
це запит типу

Query by Kind
всі конференції створені користувачем
Query by Kind filtered by Ancestor
всі конференції на які користувач записався
Query by Kind filtered by Property
також в нас буде фільтр за
топіком
початком
кількістю відвідувачів
Слайд 17

Запити Якщо ми знаємо ключ запит простий Entity entity = ofy().load().key(key).now();

Запити

Якщо ми знаємо ключ запит простий
Entity entity = ofy().load().key(key).now();
Якщо нам потрібні

всі Entity певного типу ми маємо зробити наступну річ:
Спершу ми створюємо запит:
Query query = ofy().load().type(Kind.class);
Також ми може відсортувати результат за певною властивістю
Query query = ofy().load().type(Kind.class).order(“name”);
Потім ми забираємо результат запиту:
List results = query.list();
Слайд 18

ConferenceApi Тепер ми маємо додати в ConferenceApi метод queryConferences код є

ConferenceApi

Тепер ми маємо додати в ConferenceApi метод queryConferences
код є в додатках
давайте

подивимося на нього
зверніть увагу на імпорт, ви маєте приєднати вірну бібліотеку для Query
пізніше ми виправимо даний метод
запустіть проект і протестуйте API, вам мають повернути всі конференції
також в вас має почати працювати вкладка Show Conferences в застосуванні
Слайд 19

Ancestor Queries Як ви пам’ятаєте в кожної конференції є її батько

Ancestor Queries

Як ви пам’ятаєте в кожної конференції є її батько (людина,

що створила дану конференцію)
Тепер ми спробуємо забрати всі конференції, що створила одна людина
Запит має наступний вигляд:
Query query = ofy().load().type(Entity.class).ancestor(key);
key of the parent
Слайд 20

Ancestor Queries Ви маєте самостійно додати метод getConferencesCreated() в ConferenceApi даний

Ancestor Queries

Ви маєте самостійно додати метод getConferencesCreated() в ConferenceApi
даний метод має

повертати всі конференції створені конкретним користувачем (користувачем, що залогінився)
метод має бути POST
user має бути залогінений
Слайд 21

Filter by Property Тепер ми розглянемо самий цікавий запит, запит за параметрами

Filter by Property

Тепер ми розглянемо самий цікавий запит, запит за параметрами

Слайд 22

Filter by Property

Filter by Property

Слайд 23

Filter by Property Такі запити мають вигляд: Query query = ofy().load().type(Kind.class).filter("property

Filter by Property

Такі запити мають вигляд:
Query query = ofy().load().type(Kind.class).filter("property operator", "value");
Приклад:
Query

query = ofy().load().type(Conference.class).filter(“city =", “London");
Після того як Query об’єкт створений ви не можете його змінити …
Слайд 24

Filter by Property Але ми можемо додавати фільтри до запиту. Ми

Filter by Property

Але ми можемо додавати фільтри до запиту.
Ми можемо розбити

створення Query
Query query = ofy().load().type(Conference.class);
query = query.filter(“city =", “London");
… і так багато фільтрів
Слайд 25

Filter by Property Давайте додамо метод в Api, що буде повертати

Filter by Property

Давайте додамо метод в Api, що буде повертати всі

конференції, що створені в якомусь конкретному місті (наприклад London) і має конкретний топік
@ApiMethod(
name = "getConferencesFiltered",
path = "getConferencesFiltered",
httpMethod = HttpMethod.POST
)
public List getConferencesFiltered(){
Query query = ofy().load().type(Conference.class);
query = query.filter("city =", "London");
query = query.filter("topics =", "Web Technologies");
return query.list();
}
Слайд 26

Datastore Indexes

Datastore Indexes

Слайд 27

Datastore Indexes Індекси в реляційних базах даних пришвидшують запити по полях

Datastore Indexes

Індекси в реляційних базах даних пришвидшують запити по полях
В Datastore,

якщо ви хочете робити запит по полю то поле має мати індекс
Слайд 28

Datastore Indexes Коли ви зберігаєте значення, Datastore зберігає відповідний ключ Entity

Datastore Indexes

Коли ви зберігаєте значення, Datastore зберігає відповідний ключ Entity

Слайд 29

Datastore Indexes Коли вам потрібно знайти всі Entity які мають поле

Datastore Indexes

Коли вам потрібно знайти всі Entity які мають поле City

= London
Datastore подивиться запис
Conference/city/Paris і знайде всі відповідні Entity ключі
Слайд 30

Size of INDEX tables

Size of INDEX tables

Слайд 31

Datastore Indexes В великому застосуванні індекси можуть займати більше місця ніж

Datastore Indexes

В великому застосуванні індекси можуть займати більше місця ніж самі

дані
Тому вам дуже важливо визначитися за якими полями ви хочете вміти робити запити
За замовчанням всі поля індексуються, навіть якщо ви забули анотацію @Index
Але коли ми використовуємо Objectify відбувається навпаки, якщо поле не має анотації воно не індексується
Тому якщо ми вирішили, що поле має індексуватися ми обов’язково надаємо анотацію @Index
Якщо ми все таки хочемо, що б всі поля індексувалися, ми надаємо анотацію @Index класу і використовувати анотацію @UnIndex для полів, що треба виключити
Слайд 32

Composite Indexes Ми розглянули звичайні індекси, а що ви скажете про

Composite Indexes

Ми розглянули звичайні індекси, а що ви скажете про наступний

запит
Retrieve all Conferences
filter by CITY and TOPIC
sort by NAME
Звичайні індекси не можуть бути комбіновані для відповіді на такий запит
Поясніть мені чому?
Слайд 33

Composite Indexes Для відповіді на попередній запит нам потрібен індекс який

Composite Indexes

Для відповіді на попередній запит нам потрібен індекс який буде

містити різні варіанти поєднань
Це називається composite indexes
Такі індекси можна створити наступним чином:
додати INDEX до INDEX файлу
або
запустити застосування локально, зробити запит і система автоматично створить index файл, який ви потім зможете завантажити в хмару
Слайд 34

Composite Indexes Без композитного індексу в вас не будуть працювати запити.

Composite Indexes

Без композитного індексу в вас не будуть працювати запити.
Якщо в

вас все вірно налаштовано, то коли ви будете запускати своє локальне застосування, при першому ж складному запиті буде створюватися композитний індекс
Цей індекс зберігається в файл
target/conference-1.0/WEB-INF/appengine-generated/datastore-indexes-auto.xml
Цей файл буде залитий разом з вашим застосуванням в хмару і після цього в хмарі зможуть виконуватися ваші запити
Слайд 35

Composite Indexes Якщо раптом в вас не створюється індекс, ви можете

Composite Indexes

Якщо раптом в вас не створюється індекс, ви можете його

вручну додати в цей файл
Він має наступний вигляд




















Слайд 36

Query Restrictions Фільтр нерівності можна використовувати лише один раз цей вираз

Query Restrictions

Фільтр нерівності можна використовувати лише один раз
цей вираз не вірний
startdate

> 15th June && maxattendees <1000
Властивість, що приймає участь в нерівності має бути відсортована першою
цей вираз не вірний
maxattendees < 1000 SORT BY NAME
Слайд 37

Query Restrictions Давайте допишемо один фільтр і запустимо. Як ви думаєте,

Query Restrictions

Давайте допишемо один фільтр і запустимо.
Як ви думаєте, який буде

результат?
@ApiMethod(
name = "getConferencesFiltered",
path = "getConferencesFiltered",
httpMethod = HttpMethod.POST
)
public List getConferencesFiltered(){
Query query = ofy().load().type(Conference.class).order("name");
query = query.filter("city =", "London");
query = query.filter("topics =", "Web Technologies");
query = query.filter("month =", 1);
query = query.filter("maxAttendees >",10);
return query.list();
}
Слайд 38

Query Restrictions Виправимо @ApiMethod( name = "getConferencesFiltered", path = "getConferencesFiltered", httpMethod

Query Restrictions

Виправимо
@ApiMethod(
name = "getConferencesFiltered",
path = "getConferencesFiltered",
httpMethod = HttpMethod.POST

)
public List getConferencesFiltered(){
Query query = ofy().load().type(Conference.class);
query = query.filter("maxAttendees >",10) query = query.filter("city =", "London");
query = query.filter("topics =", "Web Technologies");
query = query.filter("month =", 1) .order("maxAttendees").order("name");
return query.list();
}
Слайд 39

Фільтр Ви пам’ятаєте, що в нашому застосуванні є фільтр. Ми з

Фільтр

Ви пам’ятаєте, що в нашому застосуванні є фільтр.
Ми з вами написали

метод
public List queryConferences() {
Query query = ofy().load().type(Conference.class).order("name");
return query.list();
}
Але він повертає всі конференції відсортовані за назвою
Якщо ми зараз запустимо застосування і спробуємо додавати фільтри, вони не будуть працювати
Нам потрібно доробити наш метод
Слайд 40

Фільтр В нас в додатках є файл ConferenceQueryForm скопіюємо його в

Фільтр

В нас в додатках є файл ConferenceQueryForm скопіюємо його в відповідний

пакет
Дуже цікавий клас, я раджу його розібрати
Тепер ми можемо приймати в метод ConferenceQueryForm
і замість існуючого коду вставити
public List queryConferences(ConferenceQueryForm conferenceQueryForm ) {
return conferenceQueryForm.getQuery().list();
}
тепер ваші фільтри мають почати працювати
Слайд 41

Фільтр Трохи оптимізації public List queryConferences(ConferenceQueryForm conferenceQueryForm) { Iterable conferenceIterable =

Фільтр

Трохи оптимізації
public List queryConferences(ConferenceQueryForm conferenceQueryForm) {
Iterable conferenceIterable = conferenceQueryForm.getQuery();
List

result = new ArrayList<>(0);
List> organizersKeyList = new ArrayList<>(0);
for (Conference conference : conferenceIterable) {
organizersKeyList.add(Key.create(Profile.class, conference.getOrganizerUserId()));
result.add(conference);
}
// To avoid separate datastore gets for each Conference, pre-fetch the Profiles.
ofy().load().keys(organizersKeyList);
return result;
}
Слайд 42

Datastore Commit Process Datastore has two consistency models eventual consistency strong consistency

Datastore Commit Process

Datastore has two consistency models
eventual consistency
strong consistency

Слайд 43

Datastore Commit Process Eventual Consistency

Datastore Commit Process Eventual Consistency

Слайд 44

Datastore Commit Process Strong Consistency

Datastore Commit Process Strong Consistency

Слайд 45

Eventual vs Strong Яка стратегія краще підходить для ? блог АТМ money

Eventual vs Strong

Яка стратегія краще підходить для ?
блог
АТМ money

Слайд 46

Eventual vs Strong За замовчанням використовується Eventual consistency Але якщо ви

Eventual vs Strong

За замовчанням використовується Eventual consistency
Але якщо ви робите запит


Ancestor relationship
Filter by ancestor
всі сини будуть видобуті використовуючи Strong consistency
Слайд 47

Транзакції В нашому випадку коли користувач реєструється на конференцію ми зв’язуємо конференцію і користувача

Транзакції

В нашому випадку коли користувач реєструється на конференцію ми зв’язуємо конференцію

і користувача
Слайд 48

Транзакції В стандартному випадку наші запити виглядають наступним чином Зазвичай цього

Транзакції

В стандартному випадку наші запити виглядають наступним чином
Зазвичай цього достатньо, але

бувають випадки …
Як ви думаєте, що це за випадки?
Слайд 49

Транзакції

Транзакції

Слайд 50

Транзакції

Транзакції

Слайд 51

Транзакції Дана проблема може бути вирішена за допомогою транзакцій

Транзакції

Дана проблема може бути вирішена за допомогою транзакцій

Слайд 52

Транзакції

Транзакції

Слайд 53

Транзакції Давайте впровадимо транзакції в наше застосування В нас поки, що

Транзакції

Давайте впровадимо транзакції в наше застосування
В нас поки, що не реалізована

функція реєстрації на конференцію
Давайте зробимо це
Слайд 54

Реєстрація При реєстрації на конференцію ми маємо зробити наступні речі зареєструвати

Реєстрація

При реєстрації на конференцію ми маємо зробити наступні речі
зареєструвати користувача на

конференцію
зменшити кількість вільних місць
вирішити, що робити в конфліктній ситуації
вільне місце залишилося одне а претендентів декілька
вони одночасно роблять запит
Слайд 55

Реєстрація Спочатку ми змінимо профайл користувача і додамо поле, що буде

Реєстрація

Спочатку ми змінимо профайл користувача і додамо поле, що буде відповідати

за конференції на які підписався користувач
private List conferenceKeysToAttend = new ArrayList<> (0);
Додамо методи
один має повертати копію списку конференцій на які записаний користувач
інший має додавати конференцію до списку
видалити конференцію з списку
Слайд 56

Реєстрація Тепер нам необхідно додати методи в ConferenceApi Їх заглушки знаходяться

Реєстрація

Тепер нам необхідно додати методи в ConferenceApi
Їх заглушки знаходяться в додатку

registerForConference-skeleton-and-other-additions.txt
@Named – ви маєте імпортувати import javax.inject.Named;
import com.google.api.server.spi.response.NotFoundException;
Слайд 57

Реєстрація Майже весь код готовий, ви маєте реалізувати лише один метод

Реєстрація

Майже весь код готовий, ви маєте реалізувати лише один метод registerForConference
Але

що б його написати ви маєте розібратися з транзакціями
Слайд 58

Реєстрація Запуск транзакції result = ofy().transact(new Work { public run ()

Реєстрація

Запуск транзакції
result = ofy().transact(new Work {
public run

() {
// do stuff
// do more stuff
return ;
}
});
Слайд 59

Transaction rules Snapshot isolation Optimistic concurency

Transaction rules

Snapshot isolation
Optimistic concurency

Слайд 60

Snapshot isolation Всі запити на читання мають повертати значення які мало

Snapshot isolation

Всі запити на читання мають повертати значення які мало сховище

до початку транзакції
Updates не будуть видимі ззовні
все або нічого
Слайд 61

Optimistic concurency Commit може бути тільки успішним (всі дії успішні) Значення,

Optimistic concurency

Commit може бути тільки успішним (всі дії успішні)
Значення, що отримують

нове значення не мають бути змінені з моменту початку транзакціїї
до початку транзакції
а = 2
в ході вашої транзакції ви змінили а =6
коли ви пробуєте записати транзакцію, якщо а в базі не 2 ваша транзакція не відбудеться
Одна транзакція може модифікувати максимум 5 Ancestor Groups
Має бути завершена за 60 секунд
Слайд 62

Конференції на які ми записані Ми не реалізували ще одну річ

Конференції на які ми записані

Ми не реалізували ще одну річ
Ми не

показуємо конференції на які зареєструвався користувач
Треба дописати і цей метод
@ApiMethod(
name = "getConferencesToAttend",
path = "getConferencesToAttend",
httpMethod = HttpMethod.GET
)
public Collection getConferencesToAttend(final User user)
throws UnauthorizedException, NotFoundException {

}
Слайд 63

Відписка Також ми маємо дати можливість користувачу відписатися від конференції Допишіть

Відписка

Також ми маємо дати можливість користувачу відписатися від конференції
Допишіть метод самостійно
Заглушка

метода присутня в додатках
Слайд 64

unregisterFromConference /** * Unregister from the specified Conference. * * @param

unregisterFromConference

/**
* Unregister from the specified Conference. *
* @param user

An user who invokes this method, null when the user is not signed in.
* @param websafeConferenceKey The String representation of the Conference Key to unregister from.
* @return Boolean true when success, otherwise false.
* @throws UnauthorizedException when the user is not signed in.
* @throws NotFoundException when there is no Conference with the given conferenceId.
*/
@ApiMethod(
name = "unregisterFromConference",
path = "conference/{websafeConferenceKey}/registration",
httpMethod = HttpMethod.DELETE)
public WrappedBoolean unregisterFromConference(
final User user,
@Named("websafeConferenceKey") final String websafeConferenceKey
) throws UnauthorizedException, NotFoundException, ForbiddenException, ConflictException {
}